人工智能实验室的领导者希望放缓发展步伐，但需要外界的帮助

1月22日，在达沃斯，Anthropic 首席执行官 Dario Amodei 和 Google DeepMind 首席执行官 Demis Hassabis 做出了一个惊人的表态。当被问及是否乐见人工智能（AI）的发展放缓时，两人都给出了肯定的回答。

Hassabis 谨慎地表示：“也许发展节奏稍微慢一点会是件好事，这样我们才能在社会层面上把它做好。”

Amodei 对此表示同意：“我更倾向于那样。我认为那对世界会更好。”

但问题也随之而来。Hassabis 表示，这种克制需要“国际合作”。

Amodei 的说法则更为直白：“要达成一项让各方都能放慢脚步、并且具有约束力的协议，是非常困难的。”

这传递出一种无力感。全球两位最具影响力的科技高管，坦率地承认他们陷入了一场并非自愿选择、也无法独自摆脱的竞赛。

这应当引起我们的关注。正在构建可能是人类历史上最具影响力技术的人们，正公开请求帮助以放缓发展步伐——然而却无人回应。

美国正专注于与中国的大国竞争，无心讨论克制。而北京方面，也不会听从华盛顿的指挥。这两个超级大国已陷入僵局。如果需要协调，那将不会由他们发起。

中等强国

这时，新加坡和其他中等强国可以发挥作用。虽然它们可能不是顶尖前沿人工智能实验室的所在地，但它们拥有超级大国所不具备的优势：能够在不被视为推进霸权利益的情况下召集各方，并拥有足以让标准得以施行的集体市场影响力。

同样在世界经济论坛上发言的新加坡总统 Tharman Shanmugaratnam 精准地阐述了这一愿景：“我们现在必须围绕共同利益领域，建立由小、中、大等不同规模国家组成的联盟……我们在人工智能安全方面确实有共同利益。” 他呼吁实行“灵活的多边主义”，建立诸边联盟，以便在传统机构无法发挥作用的领域采取行动，同时又不否定多边体系本身。

他指出，由于新加坡的开放性及其对技术的依赖，它将“比许多国家更早”面对人工智能的挑战。但他认为，这种直接面对挑战的处境并非弱点，而是一种优势。

新加坡的人工智能治理框架已在实践中体现了这一方法，并正在影响企业在东南亚部署系统的方式。

当中等强国制定标准时，全球的实验室都会跟进——这并非出于利他主义，而是因为它们需要市场准入。

怀疑论者会指出，以往的协调尝试都以失败告终。2023年，一封呼吁暂停高级人工智能训练六个月的公开信获得了数千个签名，但在几周内就被置之不理。

但那次努力要求的是在没有协调机制下的单方面克制。一旦竞争压力卷土重来，暂停倡议便宣告瓦解。没有相应机制支持的暂停倡议是行不通的。

中等强国可以建立能让克制措施持续下去的基础设施。它们可以设立由独立科学家设计的通用安全测试，要求每个实验室在进行重大产品发布前都必须通过。

它们可以效仿航空业的做法，创建一个“有惊无险”事件登记系统，让全球的工程师报告危险行为，以防止其他地方发生类似故障。

它们还可以强制要求进行独立审计，以核实关于安全护栏、访问控制和紧急关停程序的说法。

Tharman 总统也提出了类似建议：成立一个人工智能安全科学联盟，类似于政府间气候变化专门委员会，以监测新出现的风险。

在世界经济论坛上，Amodei 或许是无意中提到了这一点。他认为，如果对中国的芯片出口可以受到限制，那么“这就不是中美之间竞争的问题，而是我和 Demis 之间的竞争问题，我非常有信心我们能解决好”。

换句话说：只要排除了地缘政治因素，西方的实验室就能进行协调。中等强国无法消除中美之间的竞争，但它们可以建立一个不受其影响、依然能够运作的协调基础设施。

这个机会之窗不会永远敞开。Amodei 和 Hassabis 都暗示，能够进行递归式自我改进的人工智能系统可能会在未来一到五年内出现。

现在就需要建立起这些基础设施，要趁实验室的领导者们自己正释放出开放的信号，也要赶在这项技术让克制变得不可能之前。

加拿大总理 Mark Carney 在达沃斯直言不讳：“我们正处于一个破裂的时期。中等强国所依赖的多边机构正受到威胁。”

他提出的解决方案是组建“意愿联盟”——即由志同道合的国家组成团体，在旧有机构无法作为的领域共同采取行动。

人工智能治理是检验这一方法是否可行的试金石。实验室的领导者们已经表明了他们的立场：他们欢迎帮助。现在的问题是，中等强国能否认识到眼前的机遇，并在机会之窗关闭前抓住它。

本文作者是 AI Safety Connect 的联合创始人，该机构是一个“1.5轨”外交平台，旨在召集政府、前沿人工智能实验室和公民社会共同探讨人工智能安全与治理问题。他将在2月16日至20日举行的印度人工智能影响力峰会（The India AI Impact Summit）上发表演讲。