联合国专家：人工智能发展或过快，恐难有效管控风险
前沿和代理系统带来不断升级的风险，其收益“并非自动实现”
Add BT as a preferred source
本文由AI辅助翻译
[新加坡] 一个由联合国支持的科学小组表示，人工智能可以带来重大的经济和科学效益，但其能力的发展速度很可能超过了对其进行有效管理和治理的速度。
该小组在周三（7月1日）发布的一份报告中写道，此外，现有的治理工具在很大程度上是零散的，且局限于企业层面。
这更凸显了建立平台以促进开发者、国家和科学界之间对话的必要性。
这份联合国人工智能问题独立国际科学小组的报告旨在对人工智能的机遇、风险和影响进行首次全球性的独立科学评估。
该小组由来自世界各地的40名科学家和专家组成。
其任务是记录人工智能评估领域的科学证据和知识差距，旨在为政府和机构提供支持政策决策的证据基础。
这份报告是一项初步研究成果，在2027年将发布的综合报告之前公布。该报告也将在联合国于7月在日内瓦举行的首届全球人工智能治理对话上进行介绍。
该小组表示：“填补（治理）差距的具体后续步骤是存在的，但每一步都需要持续投资，以提升成员国塑造、评估和部署人工智能的能力。”
近几个月来，越来越多来自科技行业以外的知名国际和机构声音提出了有关人工智能安全和治理的关键问题，其中包括教皇Pope Leo XIV发布的通谕和2026年版的《国际人工智能安全报告》。
联合国秘书长 Antonio Guterres 表示，这份报告对于促使全球领导人采取政策行动以实现人工智能治理至关重要。
他说：“世界无法治理其不理解的事物。潜力是巨大的，但风险也是真实存在的，而等待的代价正在不断上升。”
在释放效益的同时管理风险
该小组表示，近年来，在算力、专业训练数据和新的人工智能方法论上的投资，已显著加速了人工智能工具在多个领域的能力。
例如，报告中引述了医学研究领域的进步——如药物设计、疫苗开发和癌症检测——作为该技术的有益用例。
该小组补充说，在科学、农业、无障碍技术和信息技术领域也观察到人工智能的其他应用。
但该小组警告说，为了在最小化风险的同时收获技术带来的好处，理解和管理人工智能发展所伴随的风险将是至关重要的。
它表示：“人工智能是一项具有巨大积极潜力的通用技术，但其收益并非自动实现。”
该小组补充说，该技术的能力发展速度过快，有效的治理难以跟上，同时，治理先进“前沿”模型的技术能力在全球经济中的分布也并不均衡。
这是因为决策者面临着“证据困境”。
该小组说：“他们需要证据来做出明智且影响深远的治理决策。但当证据出现时，可能已经为时已晚，因为证据的出现滞后于人工智能的发展速度。”
随着人工智能发展的加速，这类安全评估已变得愈发关键，社会和经济风险也正通过多种渠道不断增长。
报告显示，随着代理系统的发展，网络安全风险预计将急剧增加，在有记录的针对广泛部署的编码代理的攻击中，成功率高达84%。
该小组表示，代理式人工智能——即在最少的人工监督下自主运行的人工智能系统——的出现，标志着机遇和风险的重大转变。
它警告说：“随着系统被赋予更大的自主权，失去对一个或多个AI代理控制的风险将显著增加。”并补充说，行业将必须在此类操作中引入更严格的评估标准、人工监督和责任框架。
人工智能的部署速度也可能加剧其对用户心理健康的有害影响，并增加如儿童性虐待材料、虚假信息和欺诈等恶意用途的风险。
报告称，对人工智能工具进行有效的安全测试已变得越来越困难。这可能是因为该技术会记住公开可用的安全测试解决方案，或者系统意识到自己正在被测试并主动欺骗人类测试者。
该小组指出，与制药和航空业不同，人工智能行业缺乏确保安全的严格且独立的评估标准。
目前，安全评估方法在很大程度上是由人工智能公司自己设计的，政府专家通常只能获得开发者愿意分享的测试数据。
效益分配仍具挑战
尽管人工智能在很大程度上被誉为企业生产力和宏观经济增长的驱动力，但该小组对其效益是否能在全球经济中得到共享提出了质疑。
它说：“核心的未决问题是分配问题。”
例如，该小组指出，全球北方和南方国家之间在采用水平和治理讨论方面仍存在巨大差距，发展中国家在计算基础设施和模型方面也处于落后地位。
该小组表示：“这种差距反映了，甚至可能加剧现有的不平等。”
此外，关于人工智能发展是能提高工人生产力还是会取代熟练工人，目前尚无定论。
对劳动力市场的影响在不同国家也存在显著差异。例如，美国某些人群的就业率下降了约15%，而丹麦的数据显示，其对就业、工时和工资的影响几乎为零。
该小组说：“关于生产力影响的早期证据好坏参半，并且因机构而异。”
它指出，必须进行更深入的研究，以评估人工智能创造的盈余是否在资本所有者和工人之间，以及在发达经济体和发展中经济体之间得到公平分配。
“人工智能有加剧不平等、取代工人并将财富从劳动力转移至资本的风险，而非创造可持续的优质工作岗位。”
该小组补充说，此类就业创造的可持续性将需要优先考虑公平的薪酬、工人的自主权以及通往社会尊严的可靠途径。
该小组还指出，人工智能发展带来的风险需要通过治理体系进行管理，该体系应平衡硬性法律（如具约束力的立法和监管框架）与软性机制（如行业联盟和开发者的自愿承诺）。
Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.
Copyright SPH Media. All rights reserved.
