对人工智能最自信的机构，往往风险敞口最大

新加坡的人工智能战略正在加快企业将人工智能投入实际运营的步伐。在一系列举措中，该国已启动四项国家人工智能任务，并推出一项国家人工智能影响力计划，旨在支持1万家中小企业（SME）。

明确的政策方向、不断增长的投资以及日趋成熟的生态系统，为企业将人工智能应用于区域业务提供了更清晰的路径。

Deloitte表示，这一势头将持续下去，72%的新加坡企业计划在两年内将代理式人工智能部署到多个运营领域。

然而，只有14%的新加坡企业领导者表示，他们已经为代理式人工智能建立了成熟的治理体系。

新加坡的方针有助于建立商界领袖对人工智能的信心，从而催化了人工智能的创新。但这种信心也可能带来风险，反而阻碍人工智能的有效实施。

尽管采纳情况良好，但安全性却相对滞后。

太多机构正落入“人工智能自信陷阱”——当机构未能对其人工智能工具和更广泛的IT环境建立起真正的控制和可见性时，它们会陷入一种高度脆弱的状态。

信心不等于安全

许多高层领导认为他们的机构已能安全地驾驭人工智能。大部分公司都制定了可接受的人工智能使用政策、强有力的员工培训计划，并且领导层也对人工智能的使用发出了明确指示。

在新加坡，这种信心得到了一个更广泛、专注于人工智能安全与创新的生态系统的强化。然而，强大的国家级人工智能治理，并不会自动转化为每个机构内部的运营控制能力。

令人担忧的是，机构可能拥有正确的政策和良好的意图，但仍然缺乏真正的运营可见性和控制力。

AvePoint的《2026年人工智能状况》报告对全球750家企业受访者进行了调查，发现82.7%的机构表示，他们对于防止在人工智能环境中发生未经授权的数据访问非常有信心或极有信心。

然而，在过去12个月里，仍有62%的机构至少经历过一次与人工智能相关的未经授权访问事件。

事实上，对人工智能的信心越高，遭遇安全事件的风险也越大。

从政策到基础设施

为摆脱“人工智能自信陷阱”，机构需要从政策主导的治理转向基础设施主导的治理。

机构不应将人工智能治理视为一套文件和培训计划，而是需要一个“信任层”——这是一个由治理系统构成的网络，旨在为人工智能环境中的持续运营提供真正的控制能力。

该信任层主要实现四项功能：

• 监管人工智能可访问的内容，在系统接触敏感数据前强制执行权限和审批；
• 针对受批准和未经批准的使用情况，提供人工智能活动的可视性；
• 维护审计追踪，记录操作、决策和变更，以备合规与调查之需；以及
• 确保可恢复性，以便在出现问题时，能将系统恢复至已知的良好状态。

新加坡的政府科技局最近宣布为15万名公务员建立一个人工智能代理注册系统，以便他们在不损害数据安全的情况下，在工作中使用尖端的人工智能。这是一套旨在加强对员工使用人工智能情况进行监督的工具之一。

这是基础设施主导治理的一个典范。若没有这样的基础，对人工智能的信心将依然是虚幻且危险的。机构可能自认为已准备就绪，而实际上却正经历着历史新高的安全事件发生率。

真正的考验在于执行力

董事会和首席信息安全官们应该停止询问机构对人工智能安全的信心如何，而应开始质问机构究竟能实际执行哪些措施。

你们能看到多少个人工智能系统？有多少是由技术控制而非书面政策来管理的？你们能多快地检测和修复与人工智能相关的事件？

如果一个自主系统在非工作时间采取了未经授权的行动，你们能否检测、控制并从中恢复？

这些都是绝大多数使用人工智能的机构已然面对的运营现实。

信心并不自动等同于准备就绪。那些能认识到信心与实际控制力之间区别的机构，才能安全、可持续地扩展人工智能的应用。

作者是AvePoint的联合创始人兼首席执行官