人工智能淘金热:谨防‘愚人金’陷阱

在争相试验和部署人工智能的过程中,许多机构忽视了基本的网络安全准则。

    • 企业必须将采用人工智能视为更广泛网络安全战略的一部分,而非一项独立的举措。
    • 企业必须将采用人工智能视为更广泛网络安全战略的一部分,而非一项独立的举措。 图片来源:PIXABAY
    Published Wed, Dec 24, 2025 · 07:00 AM

    本文由 AI 翻译,关键事实请以原文为准。

    查看原文

    人工智能(AI)是新的“黄金”,各家企业正争相抢占一席之地。从产生深刻洞见到释放新的效率,各行各业的机构都寄望于通过人工智能来驱动增长和创新。

    然而,人工智能的真正价值并非算法本身,而是驱动这些算法的数据。

    知识产权、客户记录和运营知识是企业最宝贵的数据资产,它们赋予了公司竞争优势。这些资产如同黄金一样,必须被小心守护。

    仓促挖掘这些数据伴随着风险。员工在信息技术(IT)部门监管之外试验人工智能工具,可能会泄露敏感信息;而威胁行为者则利用人工智能以惊人的精确度自动化实施网络钓鱼等攻击。在这些压力之下,一个问题变得十分紧迫:谁在守护这座“金库”?

    快速行动的隐性成本

    人工智能系统依赖企业数据运行,客户记录、财务信息、源代码和敏感通信等数据被持续输入模型中进行训练或分析。然而,在争相试验和部署的过程中,许多机构却忽视了基本的安全准则。

    即便本意良好的员工也可能带来风险。根据Verizon的《2025年数据泄露调查报告》,约15%的员工在公司设备上经常访问生成式人工智能系统,其中72%的人使用非公司电子邮件,更有17%的人完全绕过集成身份验证。

    在新加坡,Yubico的《2025年全球身份验证状况》调查显示,44%的员工在过去一年中曾与网络钓鱼信息有过互动。这些行为凸显了试验和不安全的使用习惯会如何泄露敏感的公司数据——而这正是威胁行为者随时准备利用的漏洞。

    风险不止于此。威胁行为者也在将人工智能武器化,他们利用AI自动化网络钓鱼活动、制造近乎完美的身份冒充、并大规模克隆声音或电子邮件。其结果是精准定向的凭证盗窃案件数量上升——这相当于现代版的撬金库锁。

    身份与访问管理:沉默的风险

    当拥有更高权限的人员卷入其中时,危险会更大。开发人员、数据科学家和工程师通常拥有对人工智能环境、源代码库和敏感数据集的特权访问权限。即使这些账户受到密码或多因素身份验证(MFA)的保护,被盗的凭证仍然是全球范围内最常见的数据泄露原因之一。人工智能环境中的一次泄露,可能不仅暴露一个账户,而是整个数据集以及基于这些数据建立的洞见。

    其损害范围广泛,从欧盟《通用数据保护条例》等框架下的监管处罚,到失去客户和合作伙伴来之不易的信任。

    三管齐下的对策:战略、策略和人员

    企业必须将采用人工智能视为更广泛网络安全战略的一部分,而非一项独立的举措。一个三管齐下的方法会有所帮助:

    • 制定战略:梳理人工智能如何与身份系统、数据存储和用户工作流程交叉。为公共和私有AI工具可处理的数据设定明确界限,并定义授权用户。
    • 制定策略:通过强身份验证来强制执行边界。特权用户以及任何处理敏感数据的人员都应使用防网络钓鱼的方法进行身份验证,例如硬件安全密钥。
    • 赋能员工:通过意识培养和培训来赋能员工。许多人默认基于云的平台是安全的。若无指导,即使是善意的使用也可能导致数据泄露。安全意识与易用、直观的身份验证相结合,可确保人为失误不会破坏企业的防御体系。虽然技术可以自动化决策,但信任仍然是一项人类职能。当安全工具简单易用时,人们就会正确使用它们——从而将用户从最薄弱的环节转变为第一道防线。

    将安全视为战略推动力

    网络安全常常被视为一项成本,但实际上,它是建立信任的推动力。在人工智能时代,信任意味着一切。

    将创新与多因素身份验证(MFA)、通行密钥和硬件安全密钥等强身份验证方法相结合的机构,可以更快、更自信地前进,从而保护驱动人工智能的数据,维护客户信任,并增强企业韧性。

    人工智能或许是新的“黄金”。然而,在这场挖掘其价值的竞赛中,只有那些能守住“金库”的人,才能保住所获得的财富。

    本文作者是Yubico公司亚太及日本区副总裁。

    此翻译对您是否有帮助?