新加坡发布新框架，旨在管控自主AI智能体的风险

【新加坡】新加坡已针对代理式人工智能（Agentic AI）发布了一项新的治理框架。此举正值监管机构着手为这项具有深远影响的新兴技术设立“护栏”。

该《代理式AI示范治理框架》于周四（1月22日）在瑞士达沃斯举行的世界经济论坛（WEF）上发布，旨在为各组织机构提供关于如何负责任地部署AI智能体的指导，同时明确指出最终的问责主体仍是人类。

代理式AI模型能够在有限的人工监督下进行独立推理、决策和执行多步骤任务，而该框架正是为了应对其带来的风险。

代理式AI与传统AI和生成式AI不同，后两者通常只响应用户提示，缺乏自主发起行动的能力。

该框架由新加坡资讯通信媒体发展局（IMDA）制定，建立在2020年发布的《AI示范治理框架》基础之上，并在制定过程中征询了公共及私营部门的意见。

该框架的发布，正值各组织机构寻求提升其数字产品与服务，并日益期望通过代理式AI来驱动下一阶段的增长。

IMDA表示，AI智能体将帮助组织机构实现重复性任务的自动化，并通过解放员工的时间让他们从事更高价值的活动，从而推动行业转型。

尽管代理式AI能够为新加坡的数字经济带来积极变化，但IMDA也承认，这些智能体存在固有风险。

例如，使用能够访问客户数据库和财务记录等敏感信息的AI智能体，可能会引入新的风险，包括未经授权和错误的操作。

SEE ALSO

Asean agrees on guidelines for quicker subsea cable fixes

What’s keeping CEOs up at night? WEF poll points to insider threats, payment fraud, other cybersecurity issues

IMDA表示：“因此，至关重要的是要理解代理式AI可能带来的风险，并确保组织机构实施必要的治理措施，以负责任地利用代理式AI。”

关于负责任地部署代理式AI的指导意见涵盖四个领域：预先评估和限定风险；确保人类问责；实施技术控制；以及落实终端用户的责任。

推动代理式AI的发展与新加坡的数字经济战略相一致，因为新加坡正寻求在维护信任的同时，扩大其在AI领域的能力。

“代理式AI的发展势头正盛，”新加坡数字发展及新闻部长Josephine Teo周四在达沃斯表示。她指出，商界有兴趣探索AI智能体的应用。

她补充说，在企业就如何正确实施代理式AI形成看法的过程中，该框架将帮助他们做出更好、更明智的决策。

当被问及智能体执行错误任务的责任归属问题时，Teo承认，现在要具体确定智能体本身的责任归属还“为时过早”。

然而，她强调，无论服务以何种方式提供，消费者保护法依然适用。因此，公司必须在内部指定相应的角色和职责，以确保对AI智能体的问责。