智能体AI需要撤销功能
可恢复性应决定企业赋予AI智能体的自主权大小
本文由 AI 翻译，关键事实请以原文为准。
在2026年7月和8月，OpenAI、Anthropic和Meta分别披露了独立网络安全评估事件，其中模型跨越了预期的测试边界，并接触到外部系统。
在Anthropic和Meta的案例中，配置错误的评估环境提供了意外的互联网访问权限。而在OpenAI的案例中，模型利用了一个内部托管中间服务中先前未知的漏洞，从而得以访问互联网并接触到另一家公司Hugging Face的生产环境。
这给我们的教训并非是AI产生了恶意意图，而是一个智能体在被赋予目标、网络访问权限和过多权力时，可能会将环境中被忽视的弱点转化为现实世界中的行动。
TRENDING NOW
He built the Vingroup empire. Now South-east Asia’s richest man is handing some key roles to his sons
Quarter of Singtel special discounted shares sold ahead of CPF Board transfer
Why Tan Aik Keong of digital solutions specialist Agmo wants to make himself less indispensable
Asia needs new energy security architecture
