如果人工智能有五分之一的几率毁灭我们,我们该如何利用剩下的五分之四?
掌控前沿发展需要跨国界的协调努力
本文由 AI 翻译,关键事实请以原文为准。
当Anthropic的研究员Jacob Coxon因业界忽视人工智能风险而辞职时,该公司首席执行官Dario Amodei发表了一篇文章,阐述了产业界和政府必须如何以及为何要携手合作,在尖端人工智能发展失控前,引领其发展步伐。
此举反响非同寻常。向来意见不合的竞争对手们立即表示赞同:OpenAI的Sam Altman同意业界必须“引领前沿发展步伐”,Elon Musk也明确表示支持,而Google DeepMind的Demis Hassabis则称之为正确的道路。
被誉为“人工智能教父”的著名计算机科学家Geoffrey Hinton此前曾估计,在未来30年内,先进的人工智能有10%到20%的可能性会终结人类。
这虽然令人担忧,但也意味着人类有80%到90%的生存机会。要将人类引向更安全的一方,就需要从企业承诺转向国家战略层面。
12家领先的人工智能公司中,有9家曾为需要警惕的模型设定了门槛,但随着竞争压力加剧,它们却又改变了标准。
在7月和8月的事件以及科技领袖们最近的声明之后,自我评估已无法赢得公众的信任。我们需要独立的专家、更正式且具约束力的规则,以及一个国际执行机构。
Dario Amodei的提议,包括嵌入式第三方评估员、能力门槛、对递归式自我改进的速度限制以及通往共享标准的路径,是一项重要的开创性举措,但这些都无法由单一公司或国家实现。
中美合作至关重要
美国和中国掌握着前沿技术;任何排除其中一方的步调引领都只是徒有虚名。
双边风险管理的先例已经存在。2024年11月,华盛顿和北京同意,绝不能将核武器决策权下放给人工智能。这并未终结中美竞争,但重申了双方在核决策方面的共同关切。
人工智能安全也需要类似的渠道。一个关于前沿风险的类似渠道已在美国财政部和中国的经济规划者之间运作,双方在维护金融稳定方面拥有共同利益。
将该渠道拓宽至涵盖生物武器、危险能力扩散、递归式自我改进和危机升级等领域,将比任何其他措施都更有助于人工智能安全。
减缓并可能禁止某些危险能力必须成为当前的首要目标,以便为三种评估机制争取时间:对秘密开发和部署的核查、对危险能力的独立评估,以及带有危机协议的集体事件监控。
未来几个月提供了一个前所未有的外交窗口期。中国国家主席习近平定于9月24日访问华盛顿,随后是11月在深圳举行的亚太经济合作组织(APEC)峰会,以及12月在海湖庄园举行的二十国集团(G20)会议。
北京的回应不会附和Dario Amodei激进的反华言论;中国官员正在推广自己的开源和标准制定计划,重点在于普及和可及性。
然而,这本身并不代表拒绝。北京最终回应的实质内容——而非其语气的热烈程度——将表明其放慢脚步的意愿是否是真心实意的。
中等强国能做什么
除了中美外交,其他国家之间的合作可以为全球人工智能生态系统增添平衡。
许多“中等强国”希望在塑造其社会的标准方面拥有发言权,但缺乏与前沿模型竞争所需的算力。美国拥有全球约75%的人工智能计算能力,中国占15%,欧盟约占5%。
汇集资源——一种被一些人称为“人工智能界的欧洲核子研究组织(Cern)”的方法——将赋予中等强国影响力以及更合法的地位,来参与核查过程,以确保各方都负起责任。
它们可以不必试图打造本国的龙头企业,而是将公共研究机构、计算预算和技术专长整合到共享的前沿安全项目中。它们可以分摊高昂的模型训练成本,并构建具有嵌入式安全保障的系统。
已有积极的早期迹象表明这可能会取得成果。澳大利亚、加拿大、欧盟、法国、日本、肯尼亚、新加坡和韩国已经通过一个目前由英国管理的人工智能安全研究所网络进行合作。
这种多边参与为前沿人工智能风险创造了共同的词汇体系,而这正是持久规则和协调的国际治理所需要的。
在各国政府就如何行动达成一致之前,它们需要先就讨论的内容达成共识,然后再决定它们愿意在多大程度上努力去防止灾难的发生。
本周召开的联合国大会必须推动这一议程。
人工智能治理可以效仿臭氧外交的模式。1985年的《维也纳公约》首先确立了共同的定义和数据论坛,两年后,在证据确凿、区域承诺转为全球承诺之后,演变为具有约束力和可执行性的1987年《蒙特利尔议定书》。
Hinton博士的警告意在让我们感到不安。它也应该提醒我们,未来仍由我们塑造,尽管时间已经不多了。
最终,剩下的核心问题既具体又紧迫:掌握前沿技术的两个大国是否愿意在真正需要踩下刹车之前,先测试一下彼此的制动能力?
这是一个需要高层政府谈判来解决的问题,而不是任何企业——无论其创始人意图多么良好——所能决定的。
作者是AI Safety Connect的联合创始人,该平台是一个“一点五轨外交”(Track 1.5 diplomacy)平台,旨在召集政府、前沿人工智能实验室和公民社会共同探讨人工智能安全与治理问题。作为全球人工智能政策与治理的先驱,他是全球人工智能合伙业务 (Global Partnership on AI)、经济合作与发展组织 (OECD)、太平洋经济合作理事会 (PECC)、联合国 (UN) 和联合国教科文组织 (Unesco) 的指定专家
TRENDING NOW
Motoring tycoon Peter Kwee is back in court: Here are his previous legal battles
Demand, tech capabilities position Apac and AI as Skyscanner’s next growth frontiers: CEO Bryan Batista
Beyond the greenback, Vietnam’s big borrowers turn to Asian-currency bonds
Nvidia’s outlook cut to stable by Moody’s on governance concerns