我被“深度伪造”了——你也可能成为下一个受害者

我最近被人“深度伪造”（deepfaked）了。

一些由人工智能（AI）制作的伪造照片和视频——即声称是我本人并带有性暗示姿势的“深度伪造”内容——出现在TikTok上，并被一位同事看到，他立即提醒了我。

其中一个合成视频显示，这个由AI生成的“我”搔首弄姿地在地板上调整坐姿，几乎无法遮掩超短裙下的春光。还记得电影《本能》(Basic Instinct)中Sharon Stone交叉双腿的经典场景的读者，应该能明白我的意思。

所有这些深度伪造的照片和视频，都是根据我在TSMP公司官网上，或是我曾亮相过的正规出版物上的真实照片篡改而成的。我数了一下，有六张侵权图片。在我儿子的信息流中，他发现了11张。同事发来的侵权TikTok账户截图则显示，还有更多我设备上未出现的伪造图片。

我是一名50多岁的女律师。我不活跃于TikTok，几乎不在Instagram上分享任何内容，Telegram账户也已停用，主要使用Linkedin讨论商业和社群议题。简而言之，我并非“高风险”的互联网用户；我不会随意分享那些可能使人更容易成为此类攻击目标的暴露照片。

如果这种事能发生在我身上，那么任何在网络上有足迹的人都可能成为受害者。

幸存者的反应

我从事网络伤害领域的志愿工作。三年前，我创立了SG Her Empowerment（简称SHE），该组织建立了新加坡乃至亚洲首个专门为网络伤害受害者服务的支持中心，提供心理咨询、无偿法律建议，并直接协助向互联网公司举报伤害行为。SHE还对幸存者的经历进行研究。这一切都说明，我对这类伤害可能造成的深层心理影响并不陌生。

然而，当我得知自己的深度伪造影像在互联网上传播时，依然感到恐惧。当我按下手机上的“播放”键，等待视频加载时，呼吸甚至为之一滞。随后，看到视频中没有裸露内容，我才明显松了一口气。

最强烈、也最持久的反应，是一种被侵犯的感觉——猛烈而发自内心。谁会做这种事？难道是某个混蛋觉得这很好玩吗？

然而，当我得知自己的深度伪造影像在互联网上传播时，依然感到恐惧。当我按下手机上的“播放”键，等待视频加载时，呼吸甚至为之一滞。随后，看到视频中没有裸露内容，我才明显松了一口气。

最强烈、也最持久的反应，是一种被侵犯的感觉——猛烈而发自内心。谁会做这种事？难道是某个混蛋觉得这很好玩吗？

我们告诉幸存者，这绝不是他们的错。他们并没有自找麻烦。但自责感很快随之而来：“都怪你自己抛头露面”。

SEE ALSO

Beyond politics, disinformation and hybrid threats strike at Singapore’s economy

Deepfake interviews, forged credentials: Why AI-driven candidate fraud needs urgent attention

Think you can spot a deepfake? Probably not

最后，问题是谁干的。是某个恨我的人吗？还是一个机器人随机从网上抓取照片，用作“点击诱饵”？尽管想到有人对我怀有如此大的恶意很可怕，但这几乎比另一种可能性要好：我的形象被一台机器用来骗取点击量。

如果发生在你身上，该怎么办

侵权帖子很可能违反了社交媒体平台的社群准则。

要启动内容移除流程，请前往该帖子并选择“举报”。在TikTok上，下拉菜单会询问举报原因。就我的情况而言，原因是“虚假信息”。对所有侵权帖子都应如此操作。

让你的朋友也这样做，以增加平台收到的举报数量。互联网公司使用技术和算法来筛选每天收到的数百万份应用内举报。一个帖子收到的举报越多，平台的反应速度就越快。

接下来，我向SHE寻求帮助。SHE是各大互联网公司的“可信举报者”，帮助幸存者直接向这些公司举报。由SHECARES中心代表投诉人提交的举报将由互联网公司的人工而非仅仅是算法来处理，从而加快响应速度。

即便如此，相关侵权内容仍耗时四天才被下架，该用户账户也被禁用。

接下来，我向SHE寻求帮助。SHE是各大互联网公司的“可信举报者”，帮助幸存者直接向这些公司举报。由SHECARES中心代表投诉人提交的举报将由互联网公司的人工而非仅仅是算法来处理，从而加快响应速度。

即便如此，相关侵权内容仍耗时四天才被下架，该用户账户也被禁用。

但这并不能将这些图片从互联网上彻底清除。即使在TikTok账户被移除、图片无法再在该平台访问后，通过Google搜索仍然可以找到这些图片。现在，你还必须向Google提交报告，要求将侵权图片从搜索结果中移除。

旁观者的反应

当我们的社会在努力应对日益猖獗和激增的网络伤害时，社群的反应至关重要。

值得庆幸的是，我有一些知道如何提供支持的朋友。

“这太糟糕了。很抱歉你遇到了这种事。这不是你自找的，也不是你的错。这里是如何立即进行应用内举报以启动下架流程的方法。我也会在我这边进行举报，这样平台就能收到多方反馈，证实该图片是深度伪造的。”

一位提醒我如何启动下架流程的好友给我发了这样一条信息：“我很羞愧，我的第一反应是去解决问题，而不是问你感觉怎么样。真的非常抱歉。”

第一时间的响应者在帮助幸存者调整心态和重建自信方面扮演着重要角色。

但有时，他人的反应反而会让事情变得更糟。

我曾在Linkedin上写过这次事件。网络攻击的受害者通常会感到一种压倒性的失控感。写下我的经历，希望能帮助到其他人，是重新获得部分掌控感的一种方式。

几天后我收到一封电子邮件。一位本地记者读了我的Linkedin帖子，并提出了一些问题。这封邮件没有解释文章将如何撰写，结尾还附上一个指示：“请在回复时抄送我的同事”。

或许这位记者如此直接，是因为我在Linkedin上发帖讲述了我的经历，把自己“公之于众”了。又或者，人们感觉网络攻击不像身体攻击那样有害。这两种都是常见的旁观者反应，但都是不正确的。如果幸存者都要经历这些，那就解释了他们为何在与媒体接触时会犹豫不决。

幸存者的补救措施

除了我所采取的行动外，目前对于被深度伪造的受害者来说，并没有法律上的补救措施。现行法律是在网络危害还未恶性滋生之前制定的。

如果TikTok没有移除这些内容，我几乎无能为力。而且，即使有法律追索途径，在不知道发布者身份的情况下，我也无法追究任何人的法律责任。

但法律正在改变。

《线上安全（救济与问责）法案》（Online Safety (Relief and Accountability) Bill, OSRA）目前正在国会审议。如果该法案获得通过，像我这样处境的人将有新的追索途径。

首先，如果互联网公司未能及时采取适当行动，幸存者可以将案件提交给即将成立的新政府机构——线上安全委员会（Online Safety Commission, OSC）。OSC有权指令互联网平台在特定时限内下架侵权内容。希望这意味着我的图片公开挂网的四天时间可以缩短。SHE的研究表明，内容移除的速度是幸存者最关切的问题。

OSC还可以命令互联网平台提供其所掌握的上传内容账户背后的用户身份信息，并将这些信息提供给幸存者。

新法案将设立法定侵权行为，将某些线上行为定为民事过错，申诉人可据此起诉侵权者。这些行为包括私密影像滥用、基于影像的儿童虐待和线上冒充。就我的情况而言，我可以根据新的“虚假材料滥用”侵权行为提起诉讼，并寻求民事赔偿，同时向OSC申请获取那个匿名用户账户背后人员的信息。

这仅仅是个开始

发生在我身上的事并非个例。在同一个网站上，我认识的另一位新加坡女性专业人士也有一段类似被篡改的视频。

根据意大利网络安全公司DeepTrace在2019年的一项研究，96%的线上深度伪造视频是未经同意的色情内容。美国网络安全公司Home Security Heroes在2023年的一项研究中报告称，深度伪造色情内容占所有线上深度伪造视频的98%，其中99%针对女性。该研究发现线上的深度伪造视频已达95,820个，比2019年增加了550%。

对于不法分子来说，深度伪造是一门好生意。编写一个机器人程序，在网上搜寻有经济能力人士的图像，然后给他们发送一段色情视频，并威胁说除非支付赎金，否则将公之于众——这有多容易？整个过程可以在几秒钟内完成，几乎无需人工干预，且能同时针对多人。如果勒索金额不大，人们可能会因为害怕而付款。而商界、政界和社群的领袖人物则可能被索要更高的赎金。

新加坡具有前瞻性的立法是加强网络问责制的可喜举措，但监管互联网却是一个泥潭。OSRA尽管先进，但要对海外或任何躲在虚拟专用网络（VPN）背后的人强制执行将非常困难。在新加坡没有业务的互联网公司可能不会遵守OSC的指令。在很长一段时间里，甚至连政府都无法联系到某款被广泛使用的即时通讯应用的运营商。

各国在应对网络伤害方面采取不同方法，导致执法碎片化。此外，法律强制执行必然发生在伤害已经造成之后，因此受害者仍然要承受精神和情感上的创伤。

OSRA明确列出不当网络活动的类别，将有助于社会界定可接受行为与有害行为之间的界限，但明确的道德标准并不能阻止蓄意的不法分子。

互联网本应是伟大的均衡器——为弱势群体提供获取信息和学习的渠道。但如果有害活动开始让人们不敢参与互联网，那么这种进步的承诺就会受损。解决这个问题是一项艰巨的任务，但如果我们不尝试，坏人就会得逞。

作者是TSMP Law Corp的联席管理合伙人，以及SG Her Empowerment的主席