联合国专家：人工智能发展可能过快，无法有效管理风险

【新加坡】一个由联合国支持的科学小组表示，人工智能可带来显著的经济和科学效益，但其能力的发展速度可能已超过有效管理和治理它们的能力。

此外，该小组在周三（7月1日）发布的一份报告中指出，现有的治理工具大多是零散的，且局限于企业层面。

这更凸显了建立平台以促进开发者、国家和科学界之间对话的必要性。

联合国独立国际人工智能科学小组的报告旨在就人工智能的机遇、风险和影响提供首个全球性的独立科学评估。

该小组由来自世界各地的40名科学家和专家组成。

其任务是记录人工智能评估领域的科学证据和知识空白，旨在为政府和机构提供证据基础，以支持其政策决策。

这份报告是一项初步工作，其后将于2027年发布一份更全面的报告。该报告也将在7月于日内瓦举行的联合国首届全球人工智能治理对话会议上呈报。

该小组表示：“填补（治理）空白的具体后续步骤是存在的，但每一步都要求对成员国在塑造、评估和部署人工智能方面的能力进行持续投资。”

近几个月来，科技行业以外越来越多著名的国际和机构声音提出了有关人工智能安全和治理的关键问题，其中包括教皇 Leo XIV 发布的通谕以及2026年版的《国际人工智能安全报告》。

SEE ALSO

AI reshaping and creating Singapore jobs, but lack of experience a hurdle for fresh grads

Anthropic calls for AI pause button to let humans take stock

The wealth gap is widening. The answer isn’t more handouts – it’s a stake

联合国秘书长 Antonio Guterres 表示，这份报告至关重要，它能促使全球领导人就人工智能治理采取政策行动。

他表示：“世界无法治理其不了解的事物。潜力是巨大的，但风险是真实存在的，等待的代价也在不断上升。”

在释放效益的同时管理风险

该小组表示，近年来，在算力、专业训练数据和新的人工智能方法论方面的投资，已显著加速了人工智能工具在多个领域的能力。

例如，报告援引了医学研究领域的进步作为该技术的有益用例，包括药物设计、疫苗开发和癌症检测等。

该小组补充道，人工智能的其他应用也见于科学、农业、无障碍技术和信息技术领域。

但报告警告称，为了在最小化风险的同时收获技术红利，理解和管理人工智能发展所伴随的风险至关重要。

报告称：“人工智能是一项具有巨大积极潜力的通用技术，但其收益并非自然而然。”

报告补充说，该技术的能力发展过于迅速，有效的治理难以跟上其步伐。与此同时，治理先进“前沿”模型的技术能力在全球经济体中的分布也并不均衡。

这是因为政策制定者面临着一个“证据困境”。

该小组表示：“他们需要证据来做出明智且影响深远的治理决策。但当证据出现时，可能为时已晚，因为证据的出现滞后于人工智能的发展速度。”

随着人工智能发展的加速，这类安全评估已变得愈发关键，社会和经济风险也正通过多种渠道不断增长。

报告显示，随着代理系统的发展，网络安全风险预计将急剧增加，在有记录的针对广泛部署的编码代理的攻击中，成功率高达84%。

该小组表示，代理型人工智能（即能够在最少的人工监督下自主运行的人工智能系统）的出现，标志着机遇和风险的重大转变。

报告警告称：“随着系统被赋予更大的自主权，失去对一个或多个AI代理控制的风险将显著增加。”报告还补充说，业界将必须为此类操作引入更严格的评估标准、人工监督和责任框架。

人工智能部署的步伐也可能加剧对用户心理健康的有害影响，并增加如儿童性虐待材料、虚假信息和欺诈等恶意用途的风险。

报告称，对人工智能工具进行有效的安全测试已变得越来越困难。这可能是因为技术会“记住”公开的安全测试解决方案，或是系统意识到自己正在被测试，从而主动欺骗人类测试者。

该小组指出，与制药和航空业不同，人工智能行业缺乏确保安全的严格和独立的评估标准。

目前，安全评估方法主要由人工智能公司自己设计，而政府专家通常只能获得开发者愿意分享的测试数据。

利益分配仍具挑战

尽管人工智能被广泛吹捧为企业生产力和宏观经济增长的驱动力，但该小组对这些利益是否能在全球经济中共享表示怀疑。

报告称：“核心的悬而未决问题在于分配。”

例如，该小组指出，全球南北国家之间在采用水平和治理讨论方面存在巨大差距，发展中国家在计算基础设施和模型方面也处于落后地位。

该小组表示：“这种差异反映了，甚至可能加剧了现有的不平等。”

此外，关于人工智能发展究竟是能提高工人生产率，还是会取代熟练工人，目前证据尚不明确。

劳动力市场受到的影响也因国家而异。例如，美国某些人群的就业率下降了约15%，而丹麦的数据则显示，其对就业、工时和工资的影响几乎为零。

该小组表示：“关于生产率影响的早期证据好坏参半，且取决于具体制度环境。”

报告指出，需要更深入的研究来评估由人工智能创造的盈余，是否在资本所有者与工人之间，以及在发达经济体与发展中经济体之间得到了公平分配。

“人工智能有加剧不平等、取代工人、将财富从劳动力转移到资本的风险，而不是创造可持续的优质工作岗位。”

报告补充说，此类工作创造的可持续性将需要优先考虑公平的薪酬、工人的自主权以及通往社会尊严的可靠途径。

该小组还指出，人工智能发展带来的风险需要通过治理体系来管理，该体系需平衡硬性法律（如具有约束力的立法和监管框架）与软性机制（如行业联盟和开发者的自愿承诺）。