Josephine Teo：自主人工智能代理的风险尚未被完全理解

【新加坡】数码发展及新闻部长Josephine Teo于周二（7月21日）警告，使用自主人工智能代理存在一定程度的风险，而这些风险尚未被完全理解。

她是在IBM Think on Tour新加坡活动上发表上述言论。六个月前，新加坡刚发布了代理人工智能治理框架，旨在为各组织如何负责任地部署代理提供指导。

在金沙会展中心举行的活动上，Teo表示：「（代理人工智能）所产生的各类错误、风险和安全问题，坦白说，尚未被完全透彻地理解。」

与传统的大型语言人工智能模型不同，代理人工智能模型能够在有限的人工互动下启动并执行任务。

在一个关于人工智能为企业带来益处的小组讨论中，Teo重申，人工智能所带来的风险与“我们所习惯的”风险有所不同。

「当这些代理被释放出来时，我们需要相当长的时间才能完全认识到可能产生的各种问题。」

她表示，因此政府需要与合作伙伴共同学习，借鉴其经验，这样才能有“更大的机会改进我们的方法”。

在另一场关于企业如何洗牙人工智能的小组讨论中，Trust Bank的首席信息官Rajay Rai指出，该数字银行正从其人工智能部署中获益。

自通过聊天机器人在客户服务等前端岗位部署人工智能以来，Trust Bank能够进行实时的情绪分析。

SEE ALSO

The missing link in Asean’s AI economy: trusted cross-border data flows

New Online Safety Commission opens its doors to help victims tackle harmful content

Singapore to advance AI agenda as Asean chair, focus on cross-border data flows, smaller firms

他补充说，该银行还实现了50%的客户分流率，同时投诉量也降至“个位数”。

在呼叫中心的语境下，更高的分流率意味着有更多的客户被引导至自助服务渠道。

为代理负责

但是，尽管各组织开始通过可见的投资回报从代理人工智能中获益，但它们仍然对随之而来的潜在风险保持警惕。

新加坡武装部队C4指挥官兼国防数码防卫与情报军部队首席信息官Guo Jinghua表示：「我认为不同的用例需要不同程度的干预和不同严格性的治理。」

对于信息检索和行政相关任务等低风险用例，这类代理不需要严格的人工监督。

他补充说，另一方面，在代理将直接带来更优结果和主题性行动的高风险用例中，就必须设置“人在回路中”的机制。

Guo在一个媒体圆桌会议上说：「但无论何种用例，始终要以人为本……人类问责制必须始终存在。」

IBM亚太区总经理Hans Dekkers承认，在为人工智能代理所犯的错误承担责任方面，没有一个直接的答案。

Dekkers补充说，IBM从三个层面看待代理治理：数据源、模型以及围绕人工智能代理的治理。

Guo指出，人工智能代理是一个“常青循环”，意味着公司有责任在从开发到部署的全过程中对代理负责。

「你不能在代理开发完成后就放手不管……责任仍在继续，问责也仍在继续。」