新加坡提议设立联合国人工智能安全框架公约
他表示，在顶尖人工智能科技领袖、安全研究员和立法者大声疾呼人工智能安全之际，设立新机构也同样必要。
本文由 AI 翻译，关键事实请以原文为准。
[费城] 新加坡外交部长Vivian Balakrishnan于周六（9月26日）在联合国发表演讲时表示，随着美国和中国加速推进人工智能，要求暂停安全开发已为时已晚，但创建能够设立保障和标准的机构将有所帮助。
Balakrishnan在纽约联合国大会（UNGA）一般性辩论上发表新加坡国家声明时说：“我们必须共同制定新规则，并在必要时为新技术创建新机构。”
在他长达20分钟、倡导重振多边主义以应对严峻地缘政治挑战的演讲中，他表示：“我们必须探索所有选项，包括设立联合国人工智能保障框架公约的想法。”
框架公约可以采取类似联合国就气候变化问题所通过的形式，即一项基础广泛的国际条约，用以确立基本原则和合作机构，并为国际行动提供架构。
土耳其总统Recep Erdogan也发出了类似呼吁，他在联合国发言时强调了为人工智能建立一个共同国际法律框架的必要性。
Balakrishnan表示，在顶尖人工智能科技领袖、安全研究员和立法者大声疾呼人工智能安全之际，设立新机构也同样必要。他们警告说，人工智能的能力发展速度已超过人类安全管理它们的能力。
这位部长说：“我们可能还需要一个国际机构，为人工智能履行一些现有机构所承担的制定共同技术标准的职能。”他引用了国际电信联盟（ITU）和国际原子能机构（IAEA）的例子，前者负责管理全球电信和数字网络，后者则负责监督核技术的和平与安全使用。
Balakrishnan说，风险来自三种可能性——对自主系统失去控制；被流氓行为者滥用于制造生物武器或其他大规模杀伤性武器；以及普遍的政治和社会经济动荡。
他补充道：“但精灵已经从瓶子里放出来了。”他指的是对安全的呼声，以及美中两国在就此问题建立对话方面的初步努力。
SEE ALSO
他说：“要求暂停已经太晚了，特别是考虑到超级大国间的竞争，以及对那些已经拥有前沿模型的公司而言，存在着巨大的经济激励。”
他用汽车和交通灯的比喻来阐明这一点。
他说：“要快速安全地驾驶一辆高性能汽车，你需要一个强劲的引擎，但同样地，你也需要良好的刹车。”
他补充道：“特别是如果你要超越社区或跨越国界，你需要有效的共享规则、交通灯、保险、行为规范和安全带。”
他说：“我们的保障措施必须跟上步伐。”他呼吁在部署前进行严格的测试和评估。
他说：“我们需要明确限制自主系统能做什么，并建立机制，在它们以我们不希望的方式行事时进行干预。”
他还表示，这些机制必须是普遍可识别的。
他补充道：“由于人工智能的风险不会局限于国界之内，这意味着我们还需要‘道路规则’，形成一个全球共识，以共同应对这一挑战，就像我们所有人无论在纽约、北京、莫斯科还是新加坡，都能本能地以同样的方式理解交通灯一样。”
最重要的是，人类最终必须掌握控制权。
他问道：“你想让核按钮掌握在人类手中，还是人工智能手中？”
他补充说，任何持久的国际方法都必须给予所有国家有意义的利益，而不仅仅是那些拥有“最先进模型、最雄厚财力或最大规模军备”的国家。
他补充说，新加坡也在为正在进行的努力做出贡献。
他说：“本周，我们加入了呼吁加强前沿人工智能模型安全和保障的行列。”
超过20个国家和欧盟在纽约联合国大会（UNGA）期间，签署了由芬兰和挪威牵头的一项宣言。该宣言呼吁对前沿人工智能模型进行具有约束力的国际政府监督，而非企业自律
Balakrishnan说，关于人工智能的全球合作必须立即开始。
“规则不会阻止或拖慢我们。它们给予我们保证和信心，使我们能够为了我们所有人民的利益，更快、更有效地前进。”
中国为何执着于追求人工智能
在9月25日与澳大利亚前总理、现任纽约亚洲协会全球总裁兼首席执行官的Kevin Rudd的一次对话中，Balakrishnan部长重点谈到了美中在人工智能领域的较量。
他说，中国从一个深刻的历史视角看待这场人工智能竞赛。在错过了20世纪的工业革命后，中国尤其渴望不再第二次错失良机。
在一次广泛且长达一小时的讨论中，Balakrishnan挑战了美国看待与中国竞争的方式，他说道：“因为中国错过了，所以经历了一个多世纪的屈辱和不平等条约。这一次，中国绝对无意再次错过。”
他说：“你需要理解，这不仅仅是与美国竞争、争当第一或第二的问题。我这是在揣测中国的动机，但中国会说：‘这次轮到我了，轮到我大放异彩了。为什么有人要挡路，尤其是在我拥有人才和脑力的情况下？’”
他说：“所以，你能否从中国的角度理解，‘我不会再犯一个半世纪前犯下的战略错误。这是一个战略机遇，我不想任何人挡我的路。我所要求的只是一个公平的竞争环境、获取技术的渠道，以及尽可能快地取得领先。’”
Rudd指出，中国正在大量使用国家津贴来赢得人工智能竞赛，这是西方对中国经济频繁批评的一部分，即国内消费持续疲软，增长依赖出口。
Balakrishnan同意津贴的普遍使用，但表示这并不能完全解释中国在人工智能领域的成功。他指出，中国还拥有强大的科技支柱，在制造业产业群、机器人技术、电动汽车和可再生能源的采用方面已经超过了美国和西欧国家。
他补充说，激烈的国内竞争也刺激了中国的人工智能公司，从而催生了廉价而高效的中国人工智能模型。
他说，美国拥有长期的生态系统优势，能够“迅速将技术转化为产品、服务、公司和一个盈利机器”。
“即使是大国也需要伙伴”
在他的联合国演讲中，Balakrishnan还再次呼吁，在贸易壁垒日益增多、供应链中断、气候变化恶化和大规模技术颠覆的背景下，重申多边主义的重要性。
他说：“我们的国家间关系越来越受到赤裸裸的权力支配，其结果由规模、杠杆和胁迫决定，这显然对像新加坡这样的小国构成了明确而现实的危险。”
他说：“但我想说明的一点是，即使是更强大的国家最终也会付出代价，因为硬实力本身无法保障供应链、保护民众免受大流行病的影响，或稳定一个正在变暖的地球。即使是大国也需要伙伴来保障其长期国家利益。”
他说，问题不在于我们是否需要多边主义，而在于如何使其切合目的。他建议，在改革现有国际机构的同时，必须始终遵守国际法。
他特别强调了维护航行和飞越自由以保护全球供应链的重要性，尤其是在伊朗战争导致霍尔木兹海峡关键的石油、天然气和化肥运输中断的背景下。
他说：“通过用于国际航行的海峡进行过境通行是我们所有人的权利。”
他说：“这不是一项需要付费或缴税的特权，这是习惯国际法，意味着它对所有国家都有约束力，无论它们是否认为自己是《联合国海洋法公约》（Unclos）的缔约国。”
《联合国海洋法公约》（Unclos）是于1982年通过的一项国际条约，为全球海洋的所有活动建立了一个法律框架。该公约是在新加坡前外交官Tommy Koh担任主席期间缔结的。
Balakrishnan说：“最大的经济体和最小的经济体同样依赖开放的航道，我们新加坡也以同样的标准要求自己。”
他说：“新加坡海峡最窄处不到两海里，但全球近四分之一的海运贸易都经过新加坡海峡。”
他说，新加坡与马六甲海峡和新加坡海峡的另外两个沿岸国印度尼西亚和马来西亚一道，与其他海峡使用者合作，以保持海峡的开放、安全和人人可及。《海峡时报》
Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.
Share with us your feedback on BT's products and services
