建立可信赖的人工智能并非增长的束缚

减缓前沿发展的步伐或许能为人工智能模型公司争取更多时间来提高安全性、一致性和可解释性。但这些本身并不会让首席执行官更愿意将AI代理（agent）接入公司的薪资系统、客户记录或生产调度流程。

尽管审慎的测试和校准增强了人们对人工智能模型的信心，但企业在授权其访问自身数据、工作流程和决策权时，仍需清楚自己接受的是什么。

在我与亚洲各地大型企业的交流中，我发现真正的制约因素已经从前沿能力转向了更深层次的可部署性。而且，这个制约因素就存在于应用这些系统的企业内部。

制约在于可部署性

在一家亚洲电子商务企业中，将支持人工智能的工作流程嵌入核心运营的实践表明，技术可以轻松实现流程自动化。但真正耗费时间的是解决有关数据访问、决策控制、例外情况归属以及合规审查等问题。

效率提升是显著的，但困难在于处理例外情况——即当流程偏离标准路径，需要人工决定下一步操作时。经济效益和风险控制必须齐头并进。

关于人工智能最艰难的对话，是探讨企业能否围绕这些系统重新设计流程，同时避免创造的风险大于其带来的价值。治理是采纳决策的关键一环。

随着AI代理从辅助人类转变为在业务流程中自主行动，这个问题变得更加尖锐。在授予代理权限之前，企业需要对身份、数据访问、权限、可追溯性和可逆性进行控制。

非人类身份管理、代理权限和执行控制成为部署的先决条件。

IBM发布的《2026年数据泄露成本研究》用数字揭示了其后果。

在一个研究周期内，涉及企业自身人工智能模型或应用程序的事件在所有数据泄露事件中的占比从13%上升到21%。在遭受与人工智能相关的泄露事件的组织中，92%存在访问控制不足的问题，而只有19%的组织表示其治理和安全团队有协同工作。

对于董事会或首席风险官而言，这些数字决定了人工智能系统在企业内部究竟能被赋予多大的权限。

放缓发展步伐提高了企业买家的验证标准

当模型公司公开表示其能力发展速度已超过安全保障措施时，企业买家在授予这些系统更深层访问权限之前，会理性地提高其验证标准。

短期来看，放缓发展步伐实际上是提高了而非降低了保证的门槛。

企业数据和工作流程仍然是这个行业的护城河，而访问权限则取决于信任和可审计的保证。只有当企业部署了前沿能力，它才能转化为持久的企业收入。

因此，治理正在从一个“负责任的人工智能”原则，转变为产品本身的一部分。

开源权重使问题更加尖锐。我曾亲眼目睹，当对话从实验阶段转向核心业务流程时，人们对开源模型的热情瞬间改变。

发布权重创造了访问机会，但并未提供可验证性。一旦模型可以被下载、修改和重新部署，企业在将其用于核心流程之前，仍然必须确定其出处（来源、创建和修改记录）、版本历史和已知局限性。

这将验证的负担转移给了买方，而许多企业并不具备承担这种负担的能力。

模型提供商可以通过提供此类文档来减轻这一负担。这可能会减慢发布速度，但一旦模型进入市场，就可以使部署更容易、采纳更快。

安全保证不能止步于前沿实验室

制药公司很久以前就解决了类似的问题。药品有批号，并附有成分证明。任何重大变更都必须有文件记录，并且在上市后仍需持续监控。

主要义务在于制造商。制造商或许无法控制医生如何开药，但仍需对药瓶内的成分及其标签上的信息负责。

人工智能需要类似的责任划分。前沿实验室不必负责企业的部署，但必须使模型具有足够的可审查性，以便其他方能够对其使用进行治理。

因此，信息披露成为一种产品特性，而不仅仅是合规的产物。

训练数据来源、方法论和架构决策可以以机器可读的格式发布，这是向建立“人工智能物料清单”（AI bill of materials）迈出的一步，类似于行业已经接受的“软件物料清单”。

企业会从它们可以审计的供应链中采购。安全保证也必须在发布后持续进行。一个在发布前评估过的模型，对于董事会来说，几乎无法说明一个代理在投入生产六个月后的行为表现。

监控必须是持续的，每个代理都应有清晰的身份标识、指定的负责人、严格限制的工具和数据访问权限，并且其行为必须可追溯、可撤销。

亚洲应在部署治理的辩论中发挥主导作用

新加坡资讯通信媒体发展局于2026年1月发布了《面向代理式AI的模型AI治理框架》，并于5月进行了更新。该框架为全球首创，为企业在实际业务运营中信任自主AI系统之前所需满足的条件提供了一份切实可行的蓝图。

该框架呼吁建立有界风险、有效的人工问责制、技术控制、可验证的代理身份以及审计追踪。这对解决企业采纳问题是一个更有益的贡献，也是该地区应更努力推动的方向。

根据Google、淡马锡 (Temasek) 和Bain的《2025年东南亚数字经济报告》，东南亚拥有超过6.8亿人口，其中超过60%的支付已经实现数字化。在印度，Microsoft的《2026年工作趋势指数》发现，32%的人工智能用户正在围绕代理重新设计工作，这是全球平均水平的两倍。这些活跃市场在规则制定方面应有更大的发言权。

人工智能行业面临的商业风险，并不仅仅是模型变得过于强大、发展过快，而在于企业拒绝将专有数据、工作流程和决策权交给它们不信任的系统。

前沿公司必须通过透明度、安全性、治理和可证明的控制来赢得这种访问权限。信任将决定人工智能被允许深入企业到何种程度。

让AI变得足够值得信赖以进行部署，这不是对增长的限制，这本身就是增长战略。

作者是IBM Consulting亚太区副总裁兼高级合伙人。本文仅代表其个人观点