数字发展及新闻部：现有指导方针适用于代理式人工智能风险，政府正审查安全保障措施

【新加坡】数字发展及新闻部高级政务部长Tan Kiat How表示，代理式人工智能系统正在带来新的风险维度，但现有的指导方针和法规依然适用。

他是在周三（10月7日）于国会回应议员的补充提问时补充道：“我们正在审查如何调整和加强这些框架和系统，以应对代理式系统日益增强的自主性，同时也在密切关注这一新兴领域的国际发展动态。”

此前，数字发展及新闻部长Josephine Teo于周二晚间，就新加坡数字系统应对代理式人工智能韧性的相关口头问题作出书面答复。Teo曾呼吁采取“基于风险的多层次方法”，以便在管理风险的同时促进创新。

这些问题是在一个OpenAI代理程序侵入澳大利亚国家医疗保健数据库之后提出的，这是首例已知的由人工智能入侵政府网络的案件。

Teo表示：“（在新加坡，）迄今为止，没有任何政府机构收到过涉及无监督人工智能代理对其系统进行网络攻击的报告。”

周三，Tan指出，现有的风险管理流程和监督机制同样适用于代理式人工智能，此外还包括维持人类问责制、设置充分的控制和防护措施等原则。现有法规也涵盖了事件报告框架。

他补充说，在加强数据保护、网络安全和系统韧性方面的长期努力，也有助于保护人工智能代理所交互的系统。

他表示，政府机构正在进行试验，以跟上技术发展步伐并理解负责任的实施方式。同时，他也敦促私营公司在部署代理式人工智能时“采取适当的谨慎态度并承担起责任”。

他表示，各行业监管机构已在与关键信息基础设施服务的运营商密切合作，以评估必要的安全保障措施，无论这些措施是自愿性的还是强制性的。

SEE ALSO

South Korea investigates possible use of AI in hacks on its banks

MAS rolls out AI risk management guidelines for Singapore’s financial sector

Tan补充说，欢迎前沿人工智能公司承担更大责任，来理解和管理其开发的系统所带来的风险。

这可以包括尽早识别新兴能力和风险，在这些系统被广泛部署前设置安全保障措施，并尽快纠正问题。

但他补充说，除了前沿人工智能模型本身带来的风险，不良行为者也可能利用该技术进行恶意活动。

他表示，与此同时，随着人工智能工具变得越来越普及，员工可能会主动使用这些工具。他补充说，各组织应鼓励员工高效地使用这些工具，同时引入适当的安全保障措施，并警惕新出现的风险。

他表示：“新加坡及我国的各个组织，特别是那些运营关键信息基础设施的组织，有责任采取必要的安全保障措施。”

多方面方针

在其早前的回应中，数字发展及新闻部长Teo也指出，新加坡需要对代理式人工智能采取“基于风险的多层次方法”。

首先，在部署人工智能时，必须根据风险来校准限制，要考虑所涉数据和系统的敏感性、赋予人工智能系统的自主程度，以及任何潜在危害的严重性和可补救性。

她表示：“潜在危害越大，安全保障措施就应该越强。”

更强的保障措施可包括更严格的风险测试、证明保障措施有效的可独立验证证据、更严格的部署控制或更严格的监管监督。

其次，必须加强对意外行为和滥用的防御。这不仅意味着要告知人工智能代理该做什么，还要刻意限制它们可以访问和执行的操作、进行适当的测试套件、保留适当的人工监督、监控其行为，并在出现问题时控制其后果。

这也意味着要加强网络安全，并有效利用人工智能进行网络防御。

Teo表示，第三，要及早发现风险并作出应对。她补充说，新加坡的人工智能安全研究所正在建立评估先进人工智能系统的技术能力，并开发用于测试和保障的实用方法。

她表示，第四，要继续与国际和行业伙伴合作。这包括与前沿人工智能开发者接触，以便在适当时获取信息并访问他们的模型。

目前这并非一项强制要求，因为仅凭访问模型本身并不能全面反映风险。

她表示：“如果一项僵化的要求导致公司限制合作或信息共享，那甚至可能适得其反。”她指出，更倾向于建立合作关系。

与此同时，新加坡正利用更广泛的资源来识别与自身相关的风险，这些资源从开发者到其他人工智能安全研究所以及国际合作伙伴不等。

“通过利用这些不同的资源，而不是依赖任何单一形式的访问或评估，我们可以对新出现的风险以及应对这些风险所需的安全保障措施，形成更全面的理解。”