AI系统遭入侵:检测而不恢复,并非真正的韧性

企业能否查明事发经过、控制事态影响,并安全地扭转意外后果?

    • 随着人工智能从辅助员工转变为代表员工行事,运营风险的性质也在发生变化。
    • 随着人工智能从辅助员工转变为代表员工行事,运营风险的性质也在发生变化。 图片:REUTERS
    Published Thu, Nov 19, 2026 · 03:00 PM

    本文由 AI 翻译,关键事实请以原文为准。

    查看原文

    近期涉及MoneySmart、M1及Doctor Anywhere的多起数据泄露事件,使网络安全风险再次成为新加坡企业关注的焦点。

    11月13日,新加坡网络安全局敦促所有机构“立即采取措施,加强网络防御能力”。

    尽管大多数讨论都集中在这些事件的起因以及哪些信息被泄露上,但它们为企业领导者提出了一个更大、更紧迫的问题。如果关键系统遭到攻击,企业在财务、运营和声誉损害开始累积之前,能够承受多久的停摆?

    我们不妨看看结果截然不同的两起事件。

    2026年9月,Boustead Singapore 披露,在发生一起网络安全事件后,其一家海外业务部门隔离了受影响的系统,启动了业务连续性程序,并从备份中恢复了关键数据和系统。其运营未遭受重大中断。

    与之形成对比的是2025年 Marks & Spencer 遭受的网络攻击,该攻击迫使其系统下线,线上运营中断数周。尽管实体店继续营业,但客户无法使用某些线上购物服务,运营活动是分阶段恢复的。

    尽管情况不同,但这两起事件都凸显了一个关键点。让系统重新上线是一回事,但判断业务能否安全恢复运营则是另一回事。

    随着各机构向人工智能代理授予访问敏感系统的权限,领导者必须扪心自问:团队能否查明事发经过、控制事态影响,并安全地扭转意外后果?

    Commvault 的《2026年数据韧性状况》报告发现,新加坡只有45%的机构对识别被入侵的AI系统非常有信心。

    如果机构甚至没有信心识别被入侵的AI系统,那么要确定受影响的范围、需要恢复的内容,以及团队是否能将其恢复到干净、可信的状态,可能会更具挑战性。

    AI改变了“爆炸半径”的性质

    随着人工智能从辅助员工转变为代表员工行事,运营风险的性质也在发生变化。

    一个自主AI代理可能会使用机构合法授予的身份和权限,在多个互联系统中做出决策并采取行动。

    这种自主性创造了商业价值,但这也意味着,一个被盗用的身份、不准确的数据、不完整的指令或设计不佳的工作流程,都可能在人们来不及干预的情况下,对数据、应用程序和业务流程造成连锁影响。

    届时,挑战就在于理解其后的一系列连锁行动。

    系统访问了哪些数据?它影响了哪些决策?它启动了哪些交易?哪些下游流程接受了它的输出?哪些行动需要被撤销、核对或审查?

    如果没有这种了解,机构就无法确定事件是否已得到真正控制。

    而且,如果无法确定哪些数据和系统仍然可信,那么仅仅恢复受影响的技术可能还不够。

    恢复业务所需,并证明其有效

    没有哪个机构能一次性恢复所有东西。因此,恢复工作需要从了解业务最先需要哪些能力,以及这些能力依赖于什么开始。

    “最小可行公司”(Minimum Viable Company, 简称MVC)概念,定义了在服务中断期间,为维持机构运转而必须保持可用或优先恢复的系统、数据和运营。

    MVC 的具体内容因机构而异。

    对银行而言,这可能包括确保客户能够进行有时效性的支付和提取资金。对物流供应商而言,这可能意味着能够接受运输指令、追踪过境货物,并在目的地放行交付。

    优先事项是确定哪些业务流程必须继续或优先恢复,然后梳理出支持这些流程所需的系统、数据、人员和其他依赖项。

    同样的原则也适用于人工智能。一个由AI支持的业务流程可能需要快速恢复,而另一个则可能容忍更长时间的中断。

    因此,优先级划分应基于业务影响和恢复要求,而不仅仅是看某个工作负载是否使用了AI。

    它还必须考虑到安全恢复整个业务流程所需的身份、应用程序、基础设施和数据。

    董事会无需了解每一个恢复依赖项,也无需直接指导运营响应。

    但他们应要求管理层提供证据,证明其已识别出机构的关键业务能力,并已商定在中断后以何种顺序对这些能力进行干净的恢复和测试,以确保其能安全运行。

    可信AI的下一个考验:恢复准备度

    随着新加坡推动可信AI的发展,韧性必须成为这种信任的一部分。建立“护栏”固然重要,但同样重要的是,要确保在护栏不足以应对时,企业有能力恢复。

    随着AI从辅助角色转变为行动角色,恢复准备度必须成为AI准备度的一部分。

    新加坡企业必须能够证明,当现有保障措施失效时,他们有能力控制意外后果、恢复关键运营并安全地复原。

    本文作者是 Commvault 亚太区现场首席技术官。

    在提交本文前,人工智能工具被用于支持研究、框架开发和校对工作。

    此翻译对您是否有帮助?