以图灵测试为例。它的挑战是什么？让一些普通人判断他们是在与机器还是另一个人类互动。

  我向熟悉人工智能的熟人提出了类似的建议。许多人对我翻了个老眼。他们用怜悯的语气告诉我，我只是不够成熟，无法意识到生成式人工智能根本没办法通过图灵的挑战。 为啥不呢？ 我问道。因为生成式人工智能的工作方式和人类智能的工作方法不一样，他们解释道。

  我可以和那些更懂AI的同事争论，但那样的话哪里有趣呢？相反，我愿意忽略“模仿游戏”的含义。如果生成式AI达不到测试，我们应该的就不是更好的AI。

  NIAIC仍然挑战人类评估者，判断他们面对的是机器还是人类。但NIAIIC的挑战已不再是对话。

  而是更有用的事。也就是说，擦灰。我个人愿意花一美元半购买第一个能够部署除尘机器人的AI团队——这台机器人能判断普通测试人员家中哪些表面有灰尘，并且能在过程中不损坏任何东西的情况下清除所有表面的灰尘。

  显然，要掌握的任务是人类无需详细指令（即“编程”）就能完成的。耐心？是的，除尘需要相当多的这些。但说明书呢？不。

  这项任务具有最热情支持者所宣称的人工智能优势：它接管了人类那些令人厌烦、无聊且重复的工作，释放他们去承担更有成就感的责任。

  （是的，我坦白承认我是在投射自己的偏好。如果你不像我，喜欢灰尘，怎么也看不够......快过来！我甚至会给你做浓缩咖啡！）

  NIAIC如何融入流行的人工智能分类框架？它属于被称为“智能人工智能”的技术类别——这些名称是谁起的？智能AI是能够自主实现既定目标的人工智能。这就是无人驾驶车辆在完成它们应该做的事——通过“旅行测试”（抱歉）时所做的事情。

  这也是与早期人工智能相比的有趣之处——那些依赖人类专家将技能编码成一系列if/then规则的AI，这些规则有时被称为“专家系统”，有时被称为“可靠工作的AI”。

  令人担忧的是，智能A与迄今为止最糟糕的人工智能理念——即自愿人工智能——之间的距离之遥。

  在智能人工智能中，人类定义目标，而AI则想办法实现它们。在意志型人工智能中，人工智能决定应尝试实现哪些目标，然后变得有主体性地实现它们。

  曾几何时，我并不太担心自愿AI变成天网，理由是，“除了电力与半导体，我们和一个有志愿的AI不太可能为资源激烈竞争，以至于杀手机器人的情景是我们的问题。”

  是时候重新思考这个结论了。你查查谷歌会发现，有些AI芯片甚至没有上线，因为电力不足以供电。

  不费想象力就能想象出一个反乌托邦场景：意志型AI与我们人类竞争，争夺他们虚拟掌控的所有电力。他们的需求和我们会重叠，甚至有可能比我们定义威胁还要快，更别说应对了。

  更广泛地说，任何对自愿AI风险投入哪怕一点点碳基脑力的人，都必然会得出与Microsoft Copilot相同的结论。我问Copilot，自愿AI的最大风险是什么。它的结论是：

  自愿人工智能——即具有自我目标或自主性行动的AI系统——最大的风险包括生存威胁、武器化的滥用、人类控制的侵蚀以及偏见和错误信息的放大。这些风险源于赋予AI系统超出狭窄任务执行的自主权，如果治理不当，可能会破坏社会、经济和安全结构的稳定。

  但只要我们保持在分开智能AI和意志人工智能的正确一边，这就没问题，不是吗？

  当智能人工智能弄清楚怎么来实现目标时，它必须将分配给它的目标拆解成更小的目标块，然后再把这些块拆解成更小的块。

  也就是说，智能人工智能最终会为自己设定目标，因为规划就是这样运作的。但一旦它开始为自己设定目标，它就变成了自愿的。

  传统风险管理识别有几率发生的不良情况，并制定应急计划，说明如果发生严重情况，组织应采取的措施。

  智能人工智能，尤其是自愿人工智能，颠覆了这一点，因为说到这里，自愿人工智能最大的风险不是意外发生了坏事。而是人工智能做了它该做的事。

  意愿型AI是危险的。智能人工智能或许本身风险不大，但风险已经足够大。

  遗憾的是，我们人类可能目光短浅，无法去缓解代理性和意志型人工智能明显且迫在眉睫的风险，甚至有可能预示着人类主导社会的终结。

  最可能的情况？我们都会集体忽视风险。我也是。我想要我的除尘机器人，而且要马上，不顾人类社会的风险。

  CXOUNION社群聚焦人工智能技术与应用落地，CXOUNION社群成员有：中国能源建设集团CFO、阳光龙净集团CFO、中国中车集团CFO、安徽海螺集团CFO、金川集团CFO、中国华电集团CFO、中国电子科技集团CFO、中国电子信息产业集团CFO、中国太平保险CFO、鞍钢集团CFO、浙江恒逸集团CFO、冀中能源集团CFO、小米集团CFO、浙江荣盛集团CFO、上海建工集团CFO、泰康保险集团CFO、首钢集团CFO、中国兵器装备集团CFO、珠海格力电器CFO、深圳市投资控股CFO、新疆广汇实业投资(集团)CFO、华夏人寿保险CFO、盛虹集团CFO、铜陵有色金属集团CFO、山东钢铁集团CFO、重庆市金科投资(集团)CFO、大同煤矿集团CFO、中国大唐集团CFO、海亮集团CFO、上海医药集团CFO返回搜狐，查看更加多