找回密码
 注册

Sign in with Twitter

It's what's happening?

微信登录

微信扫一扫,快速登录

查看: 107|回复: 0

AI造了一具尸体,真相来得太晚

[复制链接]
发表于 2026-3-5 03:06 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册 微信登录

×
作者:微信文章
2026年2月28日,美以空袭伊朗后的几个小时里,一张照片在X上以每分钟数万次的速度扩散——画面里,几个救援人员正从碎石瓦砾中拖出一具老人的遗体,配文说,这是哈梅内伊。

这张图有400万次浏览。

后来事实核查机构查出,图中一个人物的手有六根手指。

六根手指。这是AI在生成人类手部时最经典的失误,也是整个事件里最荒诞的细节:一个数字幽灵用六根手指,短暂掌控了数百万人对现实的判断。

w1.jpg



我最初看到这个事件时,本能反应是:又一起假新闻案例,又一次AI深度伪造警示。这是过去几年里已经被讲烂的故事弧线——制造,传播,揭穿,反思,然后等下一次。

但等等。

这个故事有一个细节,让我觉得那条熟悉的弧线断掉了。

事实核查机构揭穿这张图之后,哈梅内伊真的死了。

不是在那张图发布的当天,而是第二天,2026年3月1日,伊朗官方媒体确认,他在德黑兰官邸遭袭后身亡。

这意味着:假图像预言了一个真事件。

在任何其他时候,“AI伪造"的标签会终止这张图的传播生命。但在这里,真相的到来反而给那张图补上了一层暧昧的光晕。有些人可能会觉得——那张图虽然是假的,但它"对了”。

这是比六根手指更危险的问题。


我们通常把假新闻的危害理解为:让人相信了错误的事情。这是一种"认知污染"模型——假信息进入大脑,取代真信息,造成误判。

这个模型有一个隐含假设:真相最终到来时,污染会被清除。

但这次的情况让我意识到,这个假设可能只在和平时期成立。

战争中,信息的功能不只是传递事实,更是塑造情绪的时间节点。那张图在空袭后数小时内爆炸式传播,它所制造的不只是"哈梅内伊已死"这个命题,而是一种集体的情绪体验——震惊、愤怒、或者某种被压抑的兴奋。这种情绪体验是真实发生过的,它改变了接下来几个小时里,数百万人如何理解这场战争、如何与身边人谈论这件事、如何调整自己的立场。

你不能用"这张图是假的"来撤销那几个小时里发生的情绪事件。

真相的辟谣,在某种意义上,只是针对一个命题的撤销,而不是针对一段体验的撤销。


还有另一张图同样值得注意:哈梅内伊躺在病床上的老照片,被当作空袭后的现场流传,浏览量40万次。事实核查机构追溯发现,这是2014年他做前列腺手术康复时的画面——一张有12年历史的医院照片,在战争时刻被重新激活,获得了全新的杀伤力。

这件事让我想到某个关于谎言的反常规律:谎言不需要被发明,它只需要被调用。

一张完全真实的旧照片,只要配上新的情境,就能产生假信息的效果,而且更难被识别,因为它没有六根手指,没有SynthID水印,经得起最基本的反向图片搜索。它的"证据"是完整的,只有时间是错的。

我们花了很多力气训练自己识别AI生成的图像,却可能忽视了一个更古老、更简单的造假技术:错误的标签。


Lead Stories在做事实核查时,把那张图上传到谷歌Gemini,Gemini识别出了自己家的SynthID水印,随后报告:“此图像包含SynthID水印,这表明它要么是完全使用谷歌AI工具生成的,要么是部分使用这些工具编辑的。”

这个场景有种奇特的循环感:谷歌的AI工具被用来生成一张假图,谷歌的另一个AI工具被用来识破这张假图。

说实话,这不是一个令人安心的结论。

它更像是在说:核武器的解药是另一颗核武器。这场博弈的两端都由同一家公司提供工具,普通用户站在中间,既不生产假图,也不拥有检测工具,只能成为传播链条上的一个节点。

Hive Moderation给出的置信度是64.1%。

64.1%。这意味着如果你把这个数字换算成决策依据,大约每三张被标记的图里就有一张可能是真实的。在新闻室里,这个置信度不足以支撑任何发布决定。但在社交媒体的信息流里,"64.1%可能是AI生成"这样的标签,本身又会成为一条信息被传播、被曲解,甚至被反向利用——“连AI检测都只有64%,说明可能是真的。”

我们用来打假的工具,正在被整合进造假的生态里。


六根手指的手,让我想到一个问题:AI的失误为什么还没有被修正?

不是说谷歌或者其他公司没有在改进模型,而是说,这种"六指"的错误已经在公众讨论里出现了好几年,已经成为识别AI图像的常识,但它依然出现在这张图里。

一种可能是:生成这张图的人根本不在乎六指,因为他们知道,大多数人在转发时不会仔细数手指。

这让我觉得,我们对"事实核查"作为一种防御机制的信心,可能建立在一个错误的前提上:假设造假者会努力让假图更逼真,假设随着AI技术进步,假图会越来越难以识别,所以我们需要更好的检测工具。

但如果造假者根本不需要逼真呢?

如果一张有六根手指的图,配上正确的情境和正确的时间节点,足以完成它需要完成的传播任务——那么"更难识别"从来不是目标,"足够快"才是。

这是两套完全不同的战场逻辑。我们在建造更精密的盔甲,但对方在打一场速度战。


最后我一直在想的,是事实核查人员在报道结尾写的那句话:

“真实事件得到证实并不能为伪造的证据正名——而在战时,这两者之间的界限可能会在一次转发中消失殆尽。”

这句话很冷静,也很沉重。

它描述的不是技术问题,而是一种认识论危机:我们判断"真相"的依据,从来都不只是证据本身,而是证据与事件之间的关系。当事件真实发生,当情绪已经被调动,当立场已经形成,伪造的证据会被追认为"早知道的东西"。

这不是信息素养能够解决的问题。

因为它发生的速度,快过任何人类能够调用理性的时间窗口。

那六根手指就那么握着,握着我们最脆弱的部分——那个在战争时刻渴望确定性、渴望一张面孔来承载所有情绪的部分。而我们最终看清了那只手,已经是400万次之后的事了。

那400万次,去哪了?
Die von den Nutzern eingestellten Information und Meinungen sind nicht eigene Informationen und Meinungen der DOLC GmbH.
您需要登录后才可以回帖 登录 | 注册 微信登录

本版积分规则

Archiver|手机版|AGB|Impressum|Datenschutzerklärung|萍聚社区-德国热线-德国实用信息网

GMT+1, 2026-3-9 06:49 , Processed in 0.121392 second(s), 31 queries .

Powered by Discuz! X3.5 Licensed

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表