Claude AI协助轰炸伊朗。但具体是如何做到的？

据《华尔街日报》报道，那个能帮你起草营销邮件或构思快手晚餐食谱的人工智能（AI）模型，也已被用于攻击伊朗。在对伊朗的打击行动中，美国中央司令部使用了Anthropic的Claude AI进行“情报评估、目标识别和模拟战斗场景”。

就在几小时前，美国总统Donald Trump在与Claude的制造商发生争执后，曾下令联邦机构停止使用Claude，但该工具已深度融入五角大楼的系统，需要数月时间才能将其剥离，以换用更顺从的竞争对手产品。此外，在一月份抓捕委内瑞拉总统Nicolas Maduro的行动中，该工具也派上了用场。

但在实践中，“情报评估”和“目标识别”究竟意味着什么？Claude是在标记要打击的地点，还是在进行伤亡评估？没有人披露这些信息，而且令人警惕的是，也没有人有义务这样做。

长期以来，人工智能一直被用于战争，例如分析卫星图像、侦测网络威胁和引导导弹防御系统。但现在，聊天机器人——这种被数十亿人用于撰写电子邮件等日常任务的底层技术——正被应用于战场。

2025年11月，Anthropic与为五角大楼提供大量服务的数据分析公司Palantir Technologies合作，将其大语言模型（LLM）Claude转变为军方决策支持系统内部的推理引擎。

据彭博新闻社报道，随后在2026年1月，Anthropic向五角大楼提交了一份价值1亿美元的提案，旨在开发声控自主无人机蜂群技术。该公司的宣传点是：利用Claude将指挥官的意图转化为数字指令，以协调无人机机群。

它的投标被拒绝了，但该项目竞赛的要求远不止是像人们对聊天机器人所期望的那样，仅仅总结情报报告。这份合同旨在为具有潜在致命性的无人机蜂群开发“目标相关感知与共享”以及“从发射到终结”的全过程能力。

值得注意的是，所有这一切都发生在监管真空中，而且所使用的技术是众所周知的会犯错。大语言模型的“幻觉”是其训练方式的结果，即当它们努力给出一个答案而不是承认不确定性时会得到奖励。一些科学家表示，人工智能“虚构”这一持续存在的挑战可能永远无法解决。

这并非不可靠的人工智能系统首次被用于战争。

Lavender是一个人工智能驱动的数据库，用于协助识别加沙地区与哈马斯有关的军事目标。它不是一个大语言模型，而是通过分析大量监控数据，如社交关系和位置历史，为每个人给出一个1到100分的分数。当某人的分数超过特定阈值时，Lavender就会将其标记为军事目标。

问题在于，根据以色列-巴勒斯坦媒体《+972》杂志发表的一份调查报告，Lavender有10%的时间是错误的。牛津互联网研究所数字伦理与国防技术教授Mariarosaria Taddeo告诉我：“大约有3600人被错误地列为目标。”

伦敦玛丽女王大学政治理论教授、《死亡机器：暴力技术的伦理学》一书的作者Elke Schwarz说：“这些系统存在着令人难以置信的漏洞和极端的不可靠性……而战争是如此动态、敏感和人性化的活动。”

Schwarz教授指出，人工智能在战争中常被用来加速决策，这恰恰是导致意外后果的根源。决策速度更快、规模更大，但人工审查却更少。她说，在过去的十五年里，人工智能的军事应用变得更加不透明。

而且，甚至在应用于战争之前，保密性就已深深植根于人工智能实验室的运作方式中。这些公司拒绝透露其模型是在什么数据上训练的，也拒绝说明其系统是如何得出结论的。

当然，军事行动通常需要保密，以保护战斗人员并迷惑敌人。但国防受到国际人道法和武器测试标准的严格监管，理论上这些法规也应涵盖人工智能的使用。然而，相关标准要么缺失，要么严重不足。

Taddeo教授指出，《日内瓦公约》第36条要求新武器系统在部署前必须经过测试，但一个能从环境中学习的人工智能系统每次更新时都会变成一个新系统。这使得该规则几乎无法适用。

在理想情况下，像美国这样的政府会披露这些系统在战场上的使用方式，而且这方面已有先例。美国在“9·11”事件后开始使用武装无人机，并在奥巴马政府时期扩大了其使用范围，但起初一直拒绝承认该计划的存在。

经过近15年的文件泄露、媒体的持续施压以及美国公民自由联盟的诉讼，奥巴马政府才最终于2016年公布了无人机袭击的伤亡人数。尽管这些数字被普遍认为有所低估，但它们首次让公众、国会和媒体能够对政府进行问责。

对人工智能的监管将更加困难，需要更大的公众和立法压力，才能迫使顽固的Trump政府建立类似的报告框架。

Schwarz教授认为，目标不是要精确披露Claude在类似“史诗狂怒行动”中的具体用法，而是要公布其大致轮廓。尤其重要的是，要在出现问题时进行披露。

当前公众对于Anthropic与五角大楼争端的辩论——即在对美国人进行大规模监视或制造全自主武器方面，人工智能的合法性和伦理界限何在——忽略了一个更重大的问题：这项技术在战争中的实际应用情况缺乏透明度。

鉴于这些未经测试的新系统容易出错，透明度显得尤为迫切。Taddeo教授说：“作为一个社会，我们还没有决定是否可以接受由机器来判断一个人是否应该被杀死。”

在人工智能在战争中的应用变得司空见惯，以至于再也无人质疑之前，推动这种透明度至关重要。否则，我们可能会坐等灾难性错误的发生，并在造成损害后才强制推行透明度。彭博社