THINKING ALOUD

人工智能时代,人人皆是事实核查员

识别由人工智能生成的内容正变得愈发困难,但我们不应放弃尝试。

Derryn Wong
Published Tue, Aug 4, 2026 · 07:00 AM
    • 作者称,我们目前还没有仿生人,但令人不寒而栗的是,并没有万无一失的“Voight-Kampff测试”来检测人工智能生成的内容。
    • 作者称,我们目前还没有仿生人,但令人不寒而栗的是,并没有万无一失的“Voight-Kampff测试”来检测人工智能生成的内容。 图片:路透社

    本文由 AI 翻译,关键事实请以原文为准。

    查看原文

    【新加坡】在电影《银翼杀手》(Blade Runner)中,有一种名为“复制人”(replicants)的角色——他们是生物工程改造的人形机器人,与普通人类几乎无法区分。

    电影中虚构的Voight-Kampff测试,就是用来检测这些仿生人,以便 Harrison Ford 能够让他们“退役”(即杀死他们)。

    这部电影及其原著小说——Philip K Dick 的《仿生人会梦见电子羊吗?》(Do Androids Dream of Electric Sheep?)——让观众对虚构与现实之间的模糊界限有很多思考。

    这很有预见性。我们目前还没有仿生人,但令人不寒而栗的是,现实中并没有万无一失的Voight-Kampff测试来检测由人工智能生成的内容。

    我最近参加了法新社 (AFP) 的数字调查课程,其中一位培训师表示,目前没有一劳永逸的办法来验证内容是否由人工智能生成。

    这一点更令人恐惧,因为这些人是每天都在处理数字欺诈的专业人士。

    换句话说,现在比历史上任何时候都更是如此——你再也无法相信你所读、所见或所闻的内容。而这也让我们每个人都成为了事实核查员。

    意大利面事件

    这一点更令人担忧,因为在过去几年里人工智能发展得如此之快。

    人工智能视频的黄金标准是“Will Smith 吃意大利面”测试。

    2023年出现的那段略显恐怖的视频,并没有让任何人相信那是这位演员在用餐的真实画面。但最新的人工智能生成的版本,却可以让他与 Chris Rock 一起吃意大利餐,并且完全令人信服。

    如果人工智能内容如此难以识别,并且一直变得越来越逼真,我们是否应该感到绝望,并深陷于那些劣质跳舞动物视频的“恐怖谷”之中呢?

    就目前而言,答案是否定的,这要归功于人类的智慧。

    尽管判断是否有 人工智能 的参与并非万无一失,但仍有许多方法可以检查内容是否为人工合成。

    这些方法包括考量上下文、历史信息、地理位置、与当地的真人进行核实等等。

    在社交媒体上可以找到一些学习这些技能的不太正式但更有趣的方法。

    内容创作者 Jeremy Carrasco (@jeremyfindsai) 是众多发布人工智能视频分析的博主之一,他们会解释其中的破绽,例如通常为五秒的视频长度、连续性问题等。

    Reddit 上的 r/isthisAI 子版块有大量实例,读起来就像一门人工智能识别的速成课——还附带有时候颇具娱乐性的人类背景故事作为额外收获。

    一些用户感叹,他们无法说服年长的阿姨不要给那个“银狐”般的石油钻井工人汇款,因为那个人根本不是真人。

    在另一个例子中,一名用户声称他租用了一辆餐车,结果因为轮胎被扎破而迟到了五个多小时。

    Reddit 用户立即用 SynthID——Google 的人工智能内容水印技术——指出了这是人工智能生成的证据。这些证据包括不切实际的穿刺图案,以及轮胎上印制的文本不一致和乱码等其他证明。

    这就像是记者在进行事实核查时(求证、联系上下文、联系相关人士)所做工作的“速通版”,而且似乎还附带了专家意见。

    一个官方的、众包的人工智能验证门户网站是否即将问世?随着高质量伪造品、欺诈行为或可能轻易针对个人的攻击风险日益增长,这是我愿意付费使用的一项服务。

    换句话说,虽然没有一劳永逸的办法,但我们有很多其他由人类驱动的工具来粉碎机器的谎言。

    现在,只要我们能确定所有这些用户都不是仿生人就行了。

    此翻译对您是否有帮助?