净网—2025 | AI工具≠谣言孵化器,网警依法查处利用AI工具编造网络谣言案

新闻

作者：微信文章


数字技术编织便利的同时，也暗藏新的危机，随着人工智能技术的迅猛发展，个别别有用心之人开始利用AI工具制作并传播虚假信息。

从伪造热点事件、捏造名人言论，到炮制伪科学、嫁接虚假证据，AI谣言的危害已然凸显。

近日，陕西西安网安部门查获一起通过AI洗稿批量生成、传播网络谣言的违法案件。

典型案例

案件发现

近日，陕西西安网安部门工作中发现，某网络平台多个账号以间隔20-50分钟的频率，相继发布涉本市某中学校内存在体罚学生现象，其信息内容完全一致。

调查溯源

经查，网传信息中提及的事件为“移花接木”编造而成，相关贴文内容属虚假谣言信息。

西安市公安局网安部门立即展开谣言打处工作，很快锁定涉事MCN机构。

经查，潘某乐为该MCN机构的实际运营人，其共操控100个网络账号，均为本人在网上购买，用于某网络平台自媒体运营。潘某乐为赚取返利，利用AI工具洗稿，并批量发布在某网络平台后，导致谣言传播扩散，引发大量网民关注和讨论。

依法打击

目前，公安机关已依法对潘某乐予以行政处罚。



网警提示

技术向善，始于你我。

网络并非法外之地，让我们以理性驾驭AI，用法律守护底线，携手传递正能量。

公安机关将继续加大网络谣言打击整治工作，鼓励网民通过多种渠道及时举报网络谣言违法线索，共同守护风清气正的网络环境。

来源：公安部网安局

惠安公安提醒您

请依法依规上网

坚决对网络谣言说“不”！@所有人