“AI对话”生成违法内容,被处罚!

新闻

作者：微信文章
据荣昌区网信办通报，当地一网站平台因涉嫌网络安全违法行为被依法立案调查并作出行政处罚。

经查，该网站运营者未建立网络安全制度和内容审核机制，提供的“AI对话”功能，生成含有法律、行政法规禁止的内容，未采取有效措施停止法律法规禁止发布的信息内容，违反《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等法律法规。

荣昌区网信办依法依规责令其限期整改，对该网站负责人给予警告的行政处罚。同时，要求其认真学习互联网相关法律法规，建立健全相关管理制度和内容审核机制，强化技术防护措施，切实履行网站运营者主体责任。

下一步，荣昌区网信办将深入推进依法管网治网，加强监督检查，加大网络安全、数据安全、个人信息保护等领域执法力度，依法查处网络违法违规行为，切实维护广大网民的合法权益，持续营造风清气正的网络空间。

案例简评：

1. 提供AI对话、生成式人工智能服务的平台，须严格落实内容安全主体责任，建立并执行网络安全管理制度和内容审核机制，不能只上线功能、不落实管理。

2. 对AI生成内容要采取有效技术和管理措施进行审核、拦截、处置，及时发现并停止发布、传输法律法规禁止的信息内容，不能放任违法违规信息生成传播。

3. 网信部门持续加大AI服务、网络安全、数据安全领域执法力度，平台需主动自查整改，合规开展经营活动。

来源：合规社