我们必须能够追究科技平台对欺诈行为的责任

今年四月，我写了一篇关于 Meta 旗下平台 Instagram 上一个“深度伪造”（deepfake）视频的专栏文章。一位前同事在三月份提醒我注意此事，因为那个伪造视频冒充的是我本人。但视频中的 Martin Wolf 却在提供投资建议，这是我绝不会做的事。《金融时报》（Financial Times）说服了 Meta 将其下架。但它很快又再次出现。我们和诈骗者玩起了“打地鼠”的游戏。

最终，我加入了一个 Meta 的新系统，该系统利用面部识别技术来打击此类诈骗。这招奏效了：那些深度伪造视频消失了。我的结论是，只要 Meta 下定决心，它就能够阻止这些行为。

不幸的是，在此之前，这些视频早已被广泛传播。一位同事告诉我，至少有三个不同的深度伪造视频和多张经过 Photoshop 处理的图片，以超过1700个略有差异的广告形式在 Facebook 和 Instagram 上传播。

Meta 广告资料库的数据显示，仅在欧盟地区，这些广告就触达了超过97万用户——欧盟的法规要求平台报告此类数据。在全球范围内，接触到这些广告的人数必定是这个数字的数倍。

我认识的许多人都有过类似的经历。本月早些时候，Berkshire Hathaway 发表声明，警告人们不要被 YouTube 上出现的冒充 Warren Buffett 本人的视频所迷惑。声明补充说：“Buffett 先生担心这类欺诈性视频正像病毒一样蔓延”。

最近的两份报告揭示了事件的规模。其中一份由路透社（Reuters）的 Jeff Horwitz 撰写，标题为《文件显示，Meta 正从泛滥的欺诈广告中大发横财》。报告指出：“公司内部文件显示，Meta 去年年底内部预测，通过为诈骗和违禁品投放广告，公司将获得约占其年度总收入10%的盈利，即160亿美元。”

报告接着写道：“路透社审阅的一批此前未曾报道的文件还显示，这家社交媒体巨头在至少三年的时间里，未能识别和阻止大量广告，这些广告使其旗下 Facebook、Instagram 和 WhatsApp 的数十亿用户暴露在欺诈性的电子商务和投资骗局之下。”

该报道指出，“大部分欺诈行为来自那些行为可疑、足以触发 Meta 内部预警系统的营销人员”。

然而，有证据表明，只有当公司的系统预测营销人员实施欺诈的可能性至少达到95%时，公司才会封禁这些广告商。那么，如果可能性低于这个阈值会怎样呢？路透社的报道称，“Meta 会收取更高的广告费”。

这是一个旨在提高发布“极有可能”是欺诈性广告盈利能力的系统。最糟糕的是，Meta 的算法确保了点击诈骗信息的人会看到更多同类信息。

路透社的报告基于 Meta 内部在2021年至2025年间创建的文件。据路透社报道，Meta 的发言人 Andy Stone 表示，这些文件“呈现了一种选择性的观点，歪曲了 Meta 应对欺诈和诈骗的方法”，并补充说，“我们积极打击欺诈和诈骗行为”。也许如此。

但根据我们的经验，Meta 只有在收到《金融时报》（FT）多次投诉后才采取了有效行动。这支持了这样一种假设：它有能力采取行动，但并不急于这样做。正如路透社还指出的：“一份（Meta）安全人员在2025年5月的演示文稿中估计，在美国所有成功的诈骗案中，有三分之一涉及该公司的平台。”

正如 Buffett 恰如其分地称之为“病毒”的这种现象，其受害者并不仅限于那些相信欺诈广告的人。这个产业还有供应端。

去年十月，英国政府发布了一份文件，指出“在整个东南亚，诈骗中心正利用复杂的骗局，包括诱骗人们陷入虚假恋爱关系的诈骗，对包括英国在内的受害者进行工业化规模的欺诈。实施诈骗的通常是被贩卖的外国公民，他们被困住并被迫在酷刑威胁下进行网络欺诈”。

Srinivasan Ramani 于十一月初在《印度教徒报》（The Hindu）上发表了一篇题为《东南亚的诈骗中心是如何运作的？》的报道，讲述了约500名印度公民从“位于缅甸东南部靠近泰国边境的妙瓦底镇（Myawaddy）的KK园区网络犯罪中心”逃脱的故事。该中心最近被缅甸军政府接管。

文章解释说，“打击跨国有组织犯罪全球倡议”（Global Initiative against Transnational Organized Crime，简称GI-TOC）将这些‘复合式犯罪’设施称为工业化、监狱般的园区，成千上万的人被贩卖到那里，并被迫从事网络犯罪。人贩子发布虚假招聘广告，提供高薪的IT和营销职位。

来自印度、中国、越南、菲律宾、非洲和拉丁美洲的受害者被空运到曼谷等区域枢纽，然后通过陆路被贩卖并被迫越境进入缅甸或柬埔寨。一旦进入由高墙和武装警卫把守的园区，受害者的护照就会被没收。

他们被告知自己已被‘卖掉’，必须通过工作来偿还‘债务’，每天工作12小时进行网络诈骗。拒绝服从的人将面临酷刑——殴打、电击、饥饿和单独监禁。

因此，这些活动在两端都造成了大量的受害者。而居于中间的，是那些极其强大且盈利丰厚的社交媒体公司，正如 Sarah Wynn-Williams 所写，它们在此占据着主导地位。

Meta 声称正在尽最大努力遏制这场瘟疫。但事实并非如此。例如，它可以清除所有无法被极高概率证明为合法的金融广告。这是人们对任何出版商的期望。

但社交媒体平台是不同的。人们已经无法追究它们对网站上出现的内容所应负的责任。因为那会被视为“审查制度”。

然而，Meta 和其他类似平台已成为欺诈的帮凶。这种行为的代价不仅由受骗者和被胁迫者承担。其中还包括对信任的损害。那些注定会变得越来越以假乱真的伪造信息的大规模扩散，对金融体系是致命的。

补救措施是显而易见的。应该允许人们起诉平台，要求全额赔偿因其发布的欺诈性广告而受骗所产生的损失。

一旦法律允许这样做，这些广告肯定会消失。欺诈是一种犯罪。必须制止从欺诈中获利的行为。