人工智能公司呼吁加强问责与限制，新加坡迎来新机遇

[新加坡] 本地分析师表示，随着海外人工智能巨头以需要加强问责和限制为由，呼吁减缓人工智能的发展，新加坡有机会在人工智能治理领域发挥领导作用。

Anthropic首席执行官Dario Amodei发表的一篇呼吁减缓人工智能发展的网络文章，在科技界引发了辩论。Amodei在周六（9月12日）发布的三步计划中表示，第一步是允许第三方评估者介入，以核实安全实践和沟通是否得到遵守，并报告相关事件。

第二步是建立共同的安全标准，并对不受约束的人工智能发展速度施加限制。第三步是美国和其他民主国家政府与威权政府就此进行协调。

Amodei说：“我们必须减缓提升人工智能模型能力的步伐。进展速度看起来仍会很快，我们必须善用我们赢得的时间。”

南洋理工大学计算与数据科学学院人工智能部门主管Bo An教授支持在人类控制人工智能的能力似乎已落后的领域，有针对性地减缓发展速度。

他主要担忧的是这些人工智能系统被赋予了多大的自主权，尤其是在涉及访问敏感数据或必要服务方面。

An教授表示，人工智能在低风险实用领域的应用工作应继续推进。但如果开发者无法充分地控制系统或解释如何管理严重风险，他们就应该暂停该活动。

他补充说：“额外的时间必须用于提供更好的保障措施；仅仅延迟收效甚微。”

新加坡国立大学（国大）人工智能研究院（NAII）负责城市可持续发展的人工智能主管Anthony Tung教授指出，目前所缺乏的是有约束力的规则。他认为，对于人工智能实验室何时应该停止，或者需要什么证据才能继续进行，都没有设定条件。

SEE ALSO

‘Whoever wins AI wins’: Trump downplays AI concerns as CEOs call for slowing pace

Anthropic CEO urges slower AI development as Altman, Musk rally behind call

AI-linked Asian stocks slump on calls to slow development; Fed, BOJ hikes loom

AI slowdown calls from Anthropic, OpenAI may weigh on chip stocks, but rally seen intact

More

Tung教授说：“我的建议是，实验室发布一项新能力的速度，不应快于经认证的独立评估者对其进行评估的速度。这样一来，发展步伐就由评估的效率决定，而不是由竞争对手的发布时间表决定。”

然而，行业组织SGTech的人工智能、云与数据部门联合主席Gunasekharan Chellappan则不太主张减缓发展步伐。

他认为，需要做的是确保在安全和治理模型方面也进行同等的投资，使其与人工智能并行发展。

他说：“这不能像一场核竞赛，就算我们赢了，也只会导致自我毁灭。”

Chellappan补充说，相反，努力的方向应该是确保所有人工智能公司在自身的开发过程中实施必要的安全措施。

国大人工智能研究院的Tung教授也持相似观点，他告诫说，相关义务应与风险成正比，而不应“一刀切”。否则，监管最终可能反而巩固了那些本意是要约束的大型前沿实验室的地位。

他补充说：“仅由美国公司遵守的放缓是脆弱的。但是，难以达成全球共识，并不构成让保障措施停留在自愿层面的理由。”

减缓人工智能发展

An教授说，如果人工智能发展真的放缓，就需要专注于独立测试、限制人工智能的能力范围以及明确的人类问责制。需要为停止不安全的实验设定明确的条件，外部评估者也需要有意义的访问权限来检查合规性并报告事件。

An教授说，对于部署人工智能的组织而言，这意味着需要对资金、数据和关键系统进行更多控制。同时，也需要有经过测试的方法来停止代理程序并从错误中恢复。

Bo教授补充说，新加坡的代理式人工智能框架提供了一个有用的基础。该框架于2026年1月推出，为负责任地部署代理程序所需的技术和非技术措施提供了指导。

作为该框架的一部分，当局鼓励各组织通过适当的用例以及对人工智能代理程序的权力和访问权限进行限制，来评估和控制风险。应通过界定需要人类批准的检查点，来让其对代理程序负责。在代理程序的整个生命周期中，都应实施技术控制和流程，包括测试和控制对数据及应用程序的访问。

独特的机遇

尽管有人呼吁减缓人工智能的发展，但企业界也收到了警告：放缓采用人工智能的步伐对他们来说可能不是一个选项。

企业仍有巨大利益可图。Bain最近的一项研究指出，从现在到2035年，全球企业高达4.7万亿美元的利润可能受到影响。这是由于人工智能对全球经济产生的深远影响。

这一数额远超上一次科技颠覆（互联网）所影响的约1.4万亿美元利润。

互联网降低了接触客户的成本，而人工智能则降低了生产产品的成本。这包括分析、诊断、编码以及由机器人和自动驾驶汽车完成的体力工作。

Bain估计，与互联网影响的41%相比，人工智能将结构性地改变71%的行业。这包括制药和生物技术、医疗保健服务以及专业服务等行业。

新加坡发挥作用的机会

在减缓人工智能发展与企业加速采用人工智能的呼声并存之际，新加坡处于一个独特的地位。

SGTech的Chellappan指出，新加坡一直走在科技应用的前沿，作为先行者，这为其在人工智能领域创造了机会。他补充说，新加坡在商业、金融和法律领域的既有地位，为国家和企业创造了机会，可以着手制定人工智能治理所需的框架。

新加坡在这方面已处于领先地位，推出了AI Verify和AI测试员认证计划等人工智能框架。这些框架来自AI Verify基金会，该基金会由新加坡资讯通信媒体发展局于2023年6月发起。

国大人工智能研究院的Tung教授说：“但认证只是确立了测试员在特定范围内的能力，并不能证明一个人工智能系统是安全的。”

他补充说，目前仍然存在组织上的脱节，软件安全、网络安全和人工智能安全被视为独立的学科，由不同的资金和监管机构管理，尽管涉及这三个领域的事件日益增多。他认为，新加坡应成立一个机构，授权其涵盖所有这三个领域，并评估其向实践转化的有效性。

Tung教授补充说：“放缓本身并不是一项安全政策。我们必须投入时间进行更好的评估、建立更强的保障措施，并围绕人工智能构建更具韧性的系统。”