捉拿“AI李鬼”是场持久战

多客科技

作者：微信文章


　　近期，从演员到企业家再到两院院士，不少名人“被直播”：不法商家利用AI技术仿冒公众人物形象，在直播、短视频等环节发布信息，误导网民。一位被仿冒人士所说，视频里的错误信息也会让“学界长期以来的科普努力付诸东流”，甚至“过去那些错误认知出现了反流或加重，这点比对我个人影响还要坏”。




　　换言之，AI仿冒名人视频或者说AI造假更持久、更深层次的危害在于，以假乱真。当眼见不为真、耳听不为实，社会信任机制被一点点瓦解，人与人之间的沟通成本也将不断上升，影响不可谓不大。




　　捉拿“AI李鬼”也好，更广泛意义上的治理AI造假也罢，不能只靠被仿冒人士、消费者单打独斗，而需社会共治；面对AI技术变化快、不法商家“换马甲”成本低等特点，也很难指望有什么“一吃就见效”的“根治灵药”。治理AI造假、捉拿“AI李鬼”，是场持久战。




　　技术层面，生成和鉴伪的对抗性非常强，平台需持续长期投入，加强对AI生成内容的审核，精准识别规避标识要求的“绕路者”，优化举报激励机制，强化维权支持，更好落实主体责任。治理层面，今年10月，北京查处首例滥用AI技术发布虚假广告案，对“AI李鬼”新业态乱象亮剑，跨部门协调机制与系统性治理不断完善，如何提高违法成本有待探索。而对于公众而言，以假乱真时代到来，如何应对AI风险隐患成为必答题，辨别意识和能力也已成为必备素养。

来源：南方日报 中国新闻出版广电报