AI系统遭入侵:检测而不恢复,并非真正的韧性
企业能否查明事发经过、控制事态影响,并安全地扭转意外后果?
本文由 AI 翻译,关键事实请以原文为准。
近期涉及MoneySmart、M1及Doctor Anywhere的多起数据泄露事件,使网络安全风险再次成为新加坡企业关注的焦点。
11月13日,新加坡网络安全局敦促所有机构“立即采取措施,加强网络防御能力”。
尽管大多数讨论都集中在这些事件的起因以及哪些信息被泄露上,但它们为企业领导者提出了一个更大、更紧迫的问题。如果关键系统遭到攻击,企业在财务、运营和声誉损害开始累积之前,能够承受多久的停摆?
我们不妨看看结果截然不同的两起事件。
2026年9月,Boustead Singapore 披露,在发生一起网络安全事件后,其一家海外业务部门隔离了受影响的系统,启动了业务连续性程序,并从备份中恢复了关键数据和系统。其运营未遭受重大中断。
与之形成对比的是2025年 Marks & Spencer 遭受的网络攻击,该攻击迫使其系统下线,线上运营中断数周。尽管实体店继续营业,但客户无法使用某些线上购物服务,运营活动是分阶段恢复的。
尽管情况不同,但这两起事件都凸显了一个关键点。让系统重新上线是一回事,但判断业务能否安全恢复运营则是另一回事。
随着各机构向人工智能代理授予访问敏感系统的权限,领导者必须扪心自问:团队能否查明事发经过、控制事态影响,并安全地扭转意外后果?
Commvault 的《2026年数据韧性状况》报告发现,新加坡只有45%的机构对识别被入侵的AI系统非常有信心。
如果机构甚至没有信心识别被入侵的AI系统,那么要确定受影响的范围、需要恢复的内容,以及团队是否能将其恢复到干净、可信的状态,可能会更具挑战性。
AI改变了“爆炸半径”的性质
随着人工智能从辅助员工转变为代表员工行事,运营风险的性质也在发生变化。
一个自主AI代理可能会使用机构合法授予的身份和权限,在多个互联系统中做出决策并采取行动。
这种自主性创造了商业价值,但这也意味着,一个被盗用的身份、不准确的数据、不完整的指令或设计不佳的工作流程,都可能在人们来不及干预的情况下,对数据、应用程序和业务流程造成连锁影响。
届时,挑战就在于理解其后的一系列连锁行动。
系统访问了哪些数据?它影响了哪些决策?它启动了哪些交易?哪些下游流程接受了它的输出?哪些行动需要被撤销、核对或审查?
如果没有这种了解,机构就无法确定事件是否已得到真正控制。
而且,如果无法确定哪些数据和系统仍然可信,那么仅仅恢复受影响的技术可能还不够。
恢复业务所需,并证明其有效
没有哪个机构能一次性恢复所有东西。因此,恢复工作需要从了解业务最先需要哪些能力,以及这些能力依赖于什么开始。
“最小可行公司”(Minimum Viable Company, 简称MVC)概念,定义了在服务中断期间,为维持机构运转而必须保持可用或优先恢复的系统、数据和运营。
MVC 的具体内容因机构而异。
对银行而言,这可能包括确保客户能够进行有时效性的支付和提取资金。对物流供应商而言,这可能意味着能够接受运输指令、追踪过境货物,并在目的地放行交付。
优先事项是确定哪些业务流程必须继续或优先恢复,然后梳理出支持这些流程所需的系统、数据、人员和其他依赖项。
同样的原则也适用于人工智能。一个由AI支持的业务流程可能需要快速恢复,而另一个则可能容忍更长时间的中断。
因此,优先级划分应基于业务影响和恢复要求,而不仅仅是看某个工作负载是否使用了AI。
它还必须考虑到安全恢复整个业务流程所需的身份、应用程序、基础设施和数据。
董事会无需了解每一个恢复依赖项,也无需直接指导运营响应。
但他们应要求管理层提供证据,证明其已识别出机构的关键业务能力,并已商定在中断后以何种顺序对这些能力进行干净的恢复和测试,以确保其能安全运行。
可信AI的下一个考验:恢复准备度
随着新加坡推动可信AI的发展,韧性必须成为这种信任的一部分。建立“护栏”固然重要,但同样重要的是,要确保在护栏不足以应对时,企业有能力恢复。
随着AI从辅助角色转变为行动角色,恢复准备度必须成为AI准备度的一部分。
新加坡企业必须能够证明,当现有保障措施失效时,他们有能力控制意外后果、恢复关键运营并安全地复原。
本文作者是 Commvault 亚太区现场首席技术官。
在提交本文前,人工智能工具被用于支持研究、框架开发和校对工作。