Josephine Teo：自主式人工智能代理的风险尚未被完全理解
部长表示，因此政府需要与合作伙伴共同努力，借鉴他们的经验。
Add BT as a preferred source
本文由AI辅助翻译
【新加坡】数码发展及新闻部长Josephine Teo于周二（7月21日）警告称，自主式人工智能代理的使用带来了一定程度尚未被完全理解的风险。
她是在IBM Think on Tour新加坡活动上发表上述言论的。六个月前，新加坡刚刚发布了自主式人工智能治理框架，旨在为各组织如何负责任地部署代理提供指导。
“（自主式人工智能）所带来的各类错误、风险和安全问题，坦白说，我们尚未完全理解，”Teo在金沙会展中心举办的活动上说。
与传统的大型语言人工智能模型不同，自主式人工智能模型能够在有限的人工干预下自主发起并执行任务。
在一次关于人工智能为企业带来益处的小组讨论中，Teo重申，人工智能带来的风险不同于“我们所习惯的”风险。
“要完全理解当这些代理被释放出来时可能产生的一系列问题，还需要很长一段时间。”
她表示，因此，政府需要与合作伙伴共同努力，借鉴他们的经验，这样才能有“更大的机会改进我们的方法”。
在另一场关于在企业中洗牙人工智能的小组讨论中，Trust Bank的首席信息官Rajay Rai指出，该数字银行正从其人工智能部署中获益。
自从通过聊天机器人将人工智能应用于客户服务等面向客户的岗位以来，Trust Bank能够进行实时情感分析。
他补充说，该银行还实现了50%的分流率，同时投诉量也降至“个位数”。
在呼叫中心的场景下，更高的分流率意味着更多客户被引导至自助服务渠道。
为代理承担责任
但是，尽管各组织开始通过可见的投资回报从自主式人工智能中获益，它们仍然对随之而来的潜在风险保持警惕。
“我认为不同的用例需要不同程度的干预和不同严格程度的治理，”新加坡武装部队C4指挥官兼国防数码防卫与情报军部队首席信息官Guo Jinghua说。
对于信息检索和行政相关任务等低风险用例，这类代理不需要严格的人工监督。
他补充说，另一方面，在高风险用例中，即代理将直接导致更优结果和专题行动的场景，就必须设置“人工介入”环节。
“但无论何种用例，核心始终是以人为本……人的问责制必须始终存在，”Guo在一次媒体圆桌会议上说。
IBM亚太区总经理Hans Dekkers承认，关于由谁为人工智能代理所犯的错误负责，目前没有一个直接的答案。
Dekkers补充说，IBM从三个层面来看待代理治理：数据源、模型以及围绕人工智能代理的治理。
Guo指出，人工智能代理是一个“常青循环”，这意味着公司有责任在从开发到部署的整个过程中对代理负责。
“你不能在代理开发完成后就撒手不管。……责任仍在继续，问责仍在继续。”
Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.
Copyright SPH Media. All rights reserved.
