新加坡提议设立联合国人工智能安全框架公约
在顶尖人工智能技术领袖、安全研究员和立法者强烈呼吁人工智能安全的背景下，他表示也有必要建立新机构
本文由 AI 翻译，关键事实请以原文为准。
【费城】新加坡外交部长 Vivian Balakrishnan 于周六（9月26日）在联合国发表演讲时表示，随着美国和中国加速其人工智能发展，现在要求暂停研发以确保安全为时已晚，但有帮助的是建立能够设定保障和标准的机构。
Balakrishnan 在纽约举行的联合国大会（UNGA）一般性辩论上发表新加坡的国家声明时说：“我们必须共同为新技术制定新规则，并在必要时做好准备创建新机构。”
在他长达20分钟、主张重振多边主义以应对严峻地缘政治挑战的演讲中，他表示：“我们必须探索所有选项，包括设立联合国人工智能保障框架公约的想法。”
框架公约可以采取广泛国际条约的形式，类似于联合国就气候变化问题通过的公约，旨在确立基本原则和合作机构，并为国际行动提供框架。
土耳其总统 Recep Erdogan 也发出了类似的呼吁，他在联合国发言时强调了为人工智能建立一个共同的国际法律框架的必要性。
Balakrishnan 表示，在顶尖人工智能技术领袖、安全研究员和立法者强烈呼吁人工智能安全的背景下，建立新机构也是必要的。他们警告说，人工智能能力的发展速度超过了人类安全管理它们的能力。
该部长表示：“我们可能还需要一个国际机构，为人工智能执行一些目前由负责制定通用技术标准的机构所履行的职能。”他引用了管理全球电信和数字网络的国际电信联盟（ITU）以及监督和平安全使用核技术的国际原子能机构（IAEA）为例。
Balakrishnan 指出，风险来自三种可能性——失去对自主系统的控制；不法分子滥用以制造生物武器或其他大规模杀伤性武器；以及普遍的政治和社会经济混乱。
“但木已成舟，”他补充道，他此言不仅指的是对安全的呼声，也指美中两国在就此问题建立对话方面的初步努力。
SEE ALSO
他说：“现在呼吁停止为时已晚，特别是考虑到超级大国间的竞争，以及对已经拥有前沿模型的公司而言存在巨大的经济激励。”
他用汽车和交通信号灯作比喻来阐明他的观点。
他说：“要快速而安全地驾驶一辆高性能汽车，你需要一个强劲的引擎，但同样地，你也需要良好的刹车。”
他补充道：“特别是如果你要驶出自己的社区或跨越边界，你就需要有效的共同规则、交通信号灯、保险、行为规范和安全带。”
“我们的保障措施必须跟上步伐，”他说，并呼吁在部署前进行严格的测试和评估。
他说：“我们需要对自主系统能做什么设定明确的限制，并建立机制，以便在它们出现我们不希望的行为时进行干预。”
他还表示，这些机制必须是普世公认的。
他补充道：“由于人工智能的风险不会局限于国界之内，这意味着我们还需要‘交通规则’，形成一个关于如何共同应对这一挑战的全球共识。就像我们所有人，无论是在纽约、北京、莫斯科还是新加坡，都能本能地以同样的方式理解交通信号灯一样。”
最重要的是，人类必须最终掌握控制权。
他问道：“你是希望核按钮掌握在人类手中，还是人工智能手中？”
他补充说，任何持久的国际方法都必须让所有国家都拥有切实的利害关系，而不仅仅是那些拥有“最先进模型、最雄厚财力或最庞大武库”的国家。
他补充说，新加坡也在为当前的努力做出贡献。
他说：“本周，我们加入了呼吁加强前沿人工智能模型安全和保障的行列。”
在纽约联合国大会期间，超过20个国家和欧盟签署了一份由芬兰和挪威牵头的宣言。该宣言呼吁对前沿人工智能模型进行有约束力的国际政府监督，而非企业自我监管。
Balakrishnan 表示，关于人工智能的全球合作必须立即开始。
“规则不会阻止我们或减慢我们的速度。它们给予我们保证和信心，让我们能够为了我们所有人民的利益，更快、更有效地前进。”
中国为何执着追求人工智能
在9月25日与前澳大利亚总理、现任纽约亚洲协会全球总裁兼首席执行官 Kevin Rudd 的对话中，Balakrishnan 部长重点谈论了中美在人工智能领域的竞争。
他表示，中国是从深刻的历史视角来看待人工智能竞赛的。由于错过了20世纪的工业革命，中国尤其渴望不再第二次错失良机。
“因为中国错过了那次机会，所以经历了一个多世纪的屈辱和不平等条约。这一次，中国绝对无意再次错过，” Balakrishnan 在一场内容广泛、长达一小时的讨论中说道，这场讨论对美国看待与中国竞争的方式提出了挑战。
他说：“你需要明白，这不仅仅是与美国竞争、争当第一或第二的问题。我这是在揣测中国的动机，但中国会说：‘这次轮到我了，是我的高光时刻。为什么会有人要阻碍我，尤其是在我拥有人才和智力的情况下？’”
他说：“所以，你能否从中国的角度理解，‘我不会再犯一个半世纪前犯下的战略错误。这是一个战略机遇，我不希望任何人阻碍我。我所要求的只是一个公平的竞争环境、获取技术的渠道，并尽快取得领先。’”
Rudd 指出，中国正在大量使用国家津贴来赢得人工智能竞赛，这是西方对中国经济常有的批评之一，即国内消费持续疲软，而增长依赖出口。
Balakrishnan 同意津贴被广泛使用，但他表示这并不能完全解释中国在人工智能领域取得的成功。他指出，中国还拥有强大的科技支柱，在制造业产业群、机器人技术应用、电动汽车和可再生能源领域已经超越了美国和西欧国家。
他补充说，激励中国人工智能公司的还有激烈的国内竞争，这促使了廉价高效的中国人工智能模型的诞生。
他说，美国则拥有长期的生态系统优势，能够“迅速将技术转化为产品、服务、公司和一个盈利机器”。
“即使是大国也需要伙伴”
在他的联合国演讲中，Balakrishnan 面对日益增多的贸易壁垒、供应链中断、气候变化恶化和大规模技术颠覆，再次呼吁多边主义。
他说：“我们的国家间关系越来越受制于纯粹的实力，其结果由规模、影响力及胁迫所决定，这显然对像新加坡这样的小国构成了明显且现实的危险。”
他说：“但我想强调的是，即使是更强大的国家最终也会付出代价，因为单靠硬实力无法保障供应链、保护民众免受大流行病的侵害，也无法稳定一个日益变暖的地球。即使是大国也需要伙伴来保障其长期国家利益。”
他表示，问题不在于我们是否需要多边主义，而在于如何使其行之有效。他建议必须始终遵守国际法，同时改革现有的国际机构。
他特别详细阐述了维护航行和飞越自由以保护全球供应链的重要性，尤其是在伊朗战争导致关键的石油、天然气和化肥运输在霍尔木兹海峡中断之后。
他说：“通过用于国际航行的海峡进行过境通行是我们所有人的权利。”
他说：“这不是一项需要支付费用和通行费的特权，这是习惯国际法，意味着它对所有国家都具有约束力，无论它们是否认为自己是联合国海洋法公约的缔约国。”
《联合国海洋法公约》（Unclos）是一项于1982年通过的国际条约，为全球海洋的所有活动建立了法律框架。该公约是在前新加坡外交官 Tommy Koh 的主持下达成的。
Balakrishnan 说：“最大的经济体和最小的经济体一样，都依赖于开放的航道，我们新加坡也以同样标准要求自己。”
他说：“新加坡海峡最窄处不到两海里，但全球近四分之一的海运贸易都经过新加坡海峡。”
他说，新加坡与马六甲海峡和新加坡海峡的另外两个沿岸国家——印度尼西亚和马来西亚——一道，同这些海峡的其他使用者合作，以保持海峡的开放、安全并可供所有人使用。《海峡时报》
Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.
Share with us your feedback on BT's products and services
TRENDING NOW
He built the Vingroup empire. Now South-east Asia’s richest man is handing some key roles to his sons
‘Our bread and butter’: Family-run Loo’s Hainanese Curry Rice hands reins to third generation
Grab CEO’s wife Chloe Tong on life with Anthony Tan and finding her purpose
US says China to buy 10 million tonnes of coal in 2027 and 2028
