AI伪造生成色情内容:马斯克被法国检方正式调查!

多客科技

作者：微信文章
未来我们可能都要戴着口罩上网了！不是因为网上有传染病，而是你可能会被AI“脱衣服”

就在刚刚，法国巴黎检方宣布，要对马斯克旗下xAI公司的聊天机器人 “Grok”启动调查。原因是它被用户，生成大量“深度伪造”的色情内容，受害者包括数百名女性和未成年人。

这意味着，只要会用AI，就可以把任何人的脸，“贴”到色情视频或图片里，毫无PS痕迹。

而“Grok”，直接内置在推特上，用起来像发个推文一样简单。

最重要的是，被伪造的那些普通人，她们的肖像权、名誉、生活，正被一种零成本的AI技术摧毁。



过去，制造一个明星的假色情视频还需要点技术。现在，任何一个推特的用户，只要输入“生成一个穿着什么样衣服的人”，Grok就给你生成出来了。技术被做成了傻瓜式按钮。

你的女友、你的姐妹、你的女性朋友，甚至是你自己，都可能成为下一个目标。因为作恶成本，已经降到零。

那你说，法国人为啥“头铁”，敢查硅谷巨头？

其实，这已经不是第一次：去年7月，法国就在调查X平台，怀疑它“用算法帮助干预竞选”。这次调查Grok，是顺藤摸瓜，说明法国司法系统早就盯上了马斯克

其次，欧盟有全球最严的隐私保护法（GDPR）。在美国科技巨头面前，欧洲正试图用强硬的法律和天价罚款，扮演 “数字世界警察”的角色。法国这次出手，也是一次关于AI技术的司法压力测试！

最后是政治压力，数百名受害者和未成年人涉及其中，多名法国政府部长和议员直接报案。这是一场公共舆论、政治压力和司法手段的“合围”。



所以你有没有发现，马斯克这个人，在AI问题上一直很分裂：

一边，他高喊“AI可能毁灭人类”，呼吁全球暂停训练比GPT-4更强大的AI。

另一边，他旗下的社交平台X，却在用最低门槛，放出Grok这样一个可能被滥用的“赛博凶器”。

所以这暴露了一个残酷现实：在商业利益和流量面前，即使是“AI威胁论”的旗手，也可能选择先上车，把监管的难题甩给社会。

技术没有善恶，但使用技术的人有。监管AI，本质上是监管人性中那深不见底的恶。这场战斗，刚刚开始。