新规来袭:AI生成内容必须带“身份证”!

多客科技

作者：微信文章
    带货视频中的明星配音、短视频里突然出现的名人，可能并非本人，而是AI生成——从9月1日起，它们必须亮明身份。

    9月1日，由国家互联网信息办公室、工业和信息化部等部门发布的《人工智能生成合成内容标识办法》（以下简称《办法》），以及配套《办法》发布的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时实施。



    截至目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。“标识办法”明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。

    《办法》与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。

    新规落地后，记者注意到，各社交媒体平台相关用户协议已有所更新。微信、视频号、抖音、B站、微博、小红书等平台，要求内容发布者以显著方式主动标识AI生成内容。对于不主动标识AI生成内容的行为，部分平台表示会采取限流、下架、封号等措施。同时，部分社交平台表示，还将对可能是AI生成合成的内容进行相应提示，以便用户清晰识别。

来源：中国青年网、工人日报、北京日报客户端

图片：中国网信网

编辑：张钰格格