人工智能治理：峰会是必要之举，但尚不足够

十年前，孟买的一个街头小贩无法开设银行账户。没有地址，没有证件，也无法获得服务。如今，同一个小贩可以通过手机即时、免费地接受来自全国各地的数字支付。

这既是一个技术故事，也是一个文明故事——一个印度通过深思熟虑的主权选择大规模构建的故事。

法国总统 Emmanuel Macron 在二月份于新德里举行的印度人工智能影响力峰会上讲述了这个故事。他之所以讲述这个故事，是因为它抓住了这次活动所代表的核心意义：证明了全球南方国家可以塑造游戏规则，而不是被动地继承规则。

无论从哪个角度看，这次峰会都是一个非凡的时刻。近30万名来自100多个国家的人士齐聚巴拉特曼达帕姆会议中心（Bharat Mandapam），参加了迄今为止规模最大、地域代表性最广的人工智能（AI）峰会，这也是首次由全球南方国家主办的此类峰会。国家元首、前沿实验室的首席执行官以及公民社会代表同台交流。

《新德里前沿人工智能影响力承诺》促使 Anthropic、Google、OpenAI 及其他前沿人工智能公司做出了一些虽有限但具体的保证。

这些承诺包括分享关于人工智能对就业影响的匿名化经济数据，以便为循证决策提供信息；以及加强多语言评估，确保人工智能不仅适用于英语环境，也能在全球南方国家的各种语言和背景下有效运作。

然而，这次峰会也让挑战变得显而易见。Anthropic 的首席执行官 Dario Amodei 异常直白地表示：我们距离人工智能在大多数领域超越大多数人类的认知能力“只有短短几年时间”——他称之为“数据中心里的天才国度”。

总部位于巴黎的通用人工智能政策实验室（GPAI）最近的评估更凸显了此事的紧迫性：几乎所有当前的人工智能基准，包括最难的那些，都可能在2030年前达到饱和。网络安全和人工智能研发自动化等关键能力也遵循同样的发展轨迹，相关的安全和控制挑战最迟可能在2028年出现。

联合国（UN）秘书长 Antonio Guterres 坦率地指出了治理问题：“人工智能的未来不能由少数几个国家决定，也不能任由少数几个亿万富翁随心所欲。”

人工智能治理基础设施须加速建设

发展速度与治理速度之间的差距，正是需要我们下功夫的地方。

前沿实验室的自愿承诺表明了其意图，并为问责制设立了参考点。但是，在数万亿美元的市场份额岌岌可危、少数资源雄厚的私营参与者之间竞争激烈的情况下，仅靠软性规范无法引导其行为走向安全。

我们需要的是具有约束力的措施：一套最低限度的、国际协调的监管后盾，这些措施可以在不同司法管辖区实现标准化，并在最高风险层面上以中美战略协调为支撑——这是构建具有文化多样性的国家框架的基础。

当前，三个具体的差距同样亟待解决：

• 事件报告：前沿实验室目前缺乏标准化机制，用于在严重事件演变为公共危机前共享信息，导致问题在造成损害前一直处于孤立状态。
• 验证：若没有可靠的机制来确认他人的实际行动，相互之间的承诺便难以信任，也更难维持。
• 评估标准：对人工智能能力、安全属性和现实世界影响的评估需要跨越国界、语言和制度环境——而不仅仅是英语，也不仅限于由拥有最大研究预算的公司构建的系统。

正如 Tata Group 董事长 Natarajan Chandrasekaran 在新德里的同一个舞台上所说：“我们正处在一个信任、管理能力和人类能力成为稀缺资源的时刻。”

与大多数关于算力和资本的讨论相比，这种框架更接近问题的本质。

背景也发生了变化，增加了紧迫性。地缘战略环境正在恶化。人工智能不再仅仅是一个技术故事；它已经融入到地缘政治竞争和高强度战争中，这使得协调变得更加困难，同时也更加必要。

原本可以逐步建立的治理基础设施，现在需要更快地建设起来。

有一个先例值得回顾。在冷战期间，东西方之间的官方渠道几乎完全关闭，而帕格沃什科学和世界事务会议（Pugwash Conferences on Science and World Affairs）为科学家和政策制定者提供了一个跨越意识形态分歧进行坦诚对话的空间。

该组织由哲学家兼数学家 Bertrand Russell 和波兰裔英国物理学家 Joseph Rotblat 共同创立。Joseph Rotblat 曾参与曼哈顿计划，但在明确德国不会研发自己的核武器（这意味着该计划不再是防御性项目）后，他出于道德原因退出了该计划。

Rotblat 的信念是，那些创造危险技术的人有责任协助治理这些技术。他协助建立的帕格沃什会议并未引起媒体的广泛关注，但却为《部分禁止核试验条约》、《核不扩散条约》和《化学武器公约》奠定了基础。

1995年，Rotblat 和帕格沃什会议共同被授予诺贝尔和平奖——不是因为他们制定的文件，而是因为他们在这些文件成为可能之前所建立的共识。

这个类比对于人工智能治理而言虽不完美，但富有启发性。正式的多边进程是必要的，但对于人工智能的发展速度来说过于缓慢和曲折。而双边协议则往往过于狭隘、不平衡或陷入零和博弈。

将合作落到实处

我们需要的是可信赖的空间——即1.5轨论坛，在这里，研究人员、公民社会、政策制定者、行业从业者和投资者可以进行正式峰会平台所不允许的、实质性的且精心策划的对话。正是在这里，那些最终将在制定艰难决策时在场的人们，能够建立起使这些决策成为可能的共同理解。

新加坡深谙此道。新加坡数码发展及新闻部长 Josephine Teo 在新德里传达了一个明确的信息：人工智能治理需要建立在科学和证据之上，人工智能的进步与政策之间的差距需要弥合。

新加坡是科学工作组的联合主席，该工作组帮助建立了一个新的“人工智能促进科学”机构虚拟网络，连接了全球的政府、行业和研究人员。该国已承诺投入1.2亿新元资助“人工智能促进科学”项目。

作为一个在技术上可靠、跨越地缘政治界线并深受信赖、且愿意承担枯燥乏味的制度性工作的小国，新加坡在全球治理中一直表现超乎其体量。它正是那种能使更艰难的协调成为可能的参与者。

这在双边关系中也同样重要。3月3日，新加坡总统 Tharman Shanmugaratnam 在爱丽舍宫会见了 Macron 总统，重申了两国在政治、经济、安全和创新领域的合伙业务。

法国和新加坡都是中等强国，两国都选择了独立发展的道路，而不是被两大主导人工智能生态系统中的任何一个所吸收。这种共识是建立务实协调的基础。

Macron 在新德里演讲的结尾引用了一句值得流传的话：“旧世界说，不竞争就输了。新世界说，不连接就落后了。”

印度人工智能影响力峰会表明，在全球南方国家及其他地区，大规模连接的意愿是存在的。《新德里承诺》显示，连接可以产生具体成果。接下来的工作则不那么引人注目，也更难获得掌声：建立事件报告渠道、验证机制、评估标准和可信赖的论坛，从而使协调从愿景走向现实。

峰会平台是宣告和评估政治意愿的地方。而治理则是在其后更艰巨、更不为人知的工作中建立起来的。这项工作现在就必须开始。

作者是 AI Safety Connect 的联合创始人，这是一个旨在召集政府、前沿人工智能实验室和公民社会就人工智能安全与治理进行交流的1.5轨外交平台。作为全球人工智能政策与治理的先驱，他被任命为全球人工智能伙伴关系、经济合作与发展组织、太平洋经济合作理事会、联合国及联合国教科文组织的专家。

本文是《新全球秩序》系列文章的一部分，该系列探讨了不断变化的世界格局如何重塑商业、政治及其他领域。