AI造假狂潮:虚假名人带货、虚拟主播圈钱,谁在放任技术坑人?

我爱免费

作者：微信文章


打开手机直播间，央视主播李梓萌正热情推荐 “深海鱼油”，说能根治头晕手麻，北京一位退休大爷看得心动，花 8800 元买了三盒，拆开一看，居然只是普通水果糖。
这可不是个例。2025 年下半年，这起 AI 虚假代言案闹得沸沸扬扬，不法分子扒了公众人物的影像资料，用 AI 合成虚拟形象带货，全国报案的受害者就超 2000 人。你以为只有主播被 “克隆”？奥运冠军全红婵的声音被拿去卖土鸡蛋，4.7 万件卖出去了家人才知道；演员靳东的磁性嗓音被做成 24 小时语音直播，专挑中老年粉丝忽悠，有人把一辈子积蓄都打赏光了。更过分的是乔任梁、李玟这些已故艺人，AI 复活的形象被塞进美妆、餐饮广告里，家属哭着反对，也拦不住商家赚黑心钱。



为啥这些人敢这么肆无忌惮？还不是 AI 生成技术太 “廉价”。做一条虚假名人带货视频，几百块就能搞定，利润却能翻几十倍。重庆网信办查过一个叫 “灵象智问 AI” 的平台，连安全测评都没做，就敢公然提供生成服务，简直是给诈骗犯递刀。技术门槛一低，“无中生有” 的造假就从科幻片走进了现实，普通人的肖像权、钱包，都成了被收割的对象。
如果说名人 AI 诈骗是明着来的刀子，直播里的 AI 陷阱就是暗箭伤人。你刷到的 “有机种植基地”，主播说得天花乱坠，镜头扫过的田园风光可能是 AI 合成的；那些 “万人抢购” 的火爆场面，一半以上的弹幕都是算法编的。还有平台搞的 “AI 陪聊打赏”，虚拟美女主播一口一个 “哥哥”，温柔话术哄得人晕头转向，一天就能赚几十万打赏。
深圳有个中年大哥，被 AI 主播 “小柔” 迷得不行，三个月打赏 17 万，想见面的时候才发现，对方根本不是真人，就是一串代码。还有农村主播，用 AI 把普通农田 P 成 “有机农场”，上千消费者买了假货，维权都找不到门路。这些 AI 造出来的 “数字幻境”，把欺骗包装得严丝合缝，最后坑的都是普通人的真金白银。更让人无奈的是，好好做内容的创作者越来越难，那些靠 AI 造假、刷数据的人却赚得盆满钵满，这不是逼着大家一起变坏吗？
面对这些乱象，监管也不是没动作。2023 年就出了《生成式人工智能服务管理暂行办法》，2025 年 9 月又规定 AI 生成的视频要标清楚、音频要嵌水印，但执行起来漏洞太多。就说李梓萌那个 AI 代言案，涉事视频没标任何 AI 标识，在多个平台传了好几个月才被发现。上海网信办排查时也发现，三成 AI 直播平台都在耍小聪明，用技术手段隐藏标注信息。就算被查到了，处罚也没力度 —— 有平台靠 AI 虚假宣传赚了上千万，最后才罚了 50 万，这点钱对他们来说，根本不算回事。



地方上也在试着解决问题，浙江出台了直播规范，禁止 AI 伪造别人的声音肖像，但 “合理使用” 和 “恶意伪造” 怎么分，大家说法不一；北京把 AI 虚假宣传归到《广告法》管，可跨平台取证、查技术源头这些事，做起来太难了。最头疼的是，AI 技术更新太快，监管政策刚出台，新的滥用方式又冒出来了，永远追着乱象跑。
其实 AI 本身没什么错。它能让历史名人 “复活” 传承文化，能帮偏远地区改善教育医疗，也能让商业传播更高效。但当技术被用来诈骗、侵权、虚假宣传，所谓的 “创新”，不过是作恶的遮羞布。有些企业嘴上喊着 “技术中立”，却对平台上的违规内容睁一只眼闭一只眼；有些创作者为了流量，心甘情愿用 AI 造假，把行业伦理抛到脑后；再加上监管滞后、法律有空子可钻，AI 滥用才越来越猖獗。
我一直觉得，技术进步不该以牺牲普通人的权益为代价。当算法能随便克隆别人的声音形象，当虚假内容混在真实信息里真假难辨，我们每个人都可能成为受害者。我们不是要否定 AI，而是要问一句：这样的 “进步”，真的有意义吗？
从 AI 克隆名人带货，到已故艺人形象被滥用，从直播诈骗到数据造假，这些乱象正在一点点摧毁社会的信任。监管要更给力，平台要负起责任，我们普通人也要提高警惕。但更重要的是，技术发展得有底线 —— 不能作恶，这应该是所有创新的前提。
只有让侵权的成本远高于收益，让每一条 AI 生成的内容都清清楚楚标明来源，我们才能真正享受技术带来的便利，而不是在数字幻境里被人当韭菜割。技术的底线，从来不该由受害者来定义，守护这份底线，需要我们每个人都保持清醒，守住原则。