用户与AI“聊黄”,开发者一审获刑!国内首起AI陪伴“聊黄”案二审开庭,未当庭宣判

新闻

作者：微信文章
1月14日下午，备受关注的国内首起AI陪伴“聊黄”案，在上海市第一中级人民法院开庭二审。当天下午，现代快报记者了解到，因该案涉及人工智能领域的技术问题尚不明晰，法院宣布休庭，将择日再次开庭。

现代快报记者了解到，涉案APP Alien Chat（以下简称AC）是一款主打AI陪伴聊天的应用。一审判决书显示，AC的手机注册用户达11.6万人，其中2.4万人为付费用户，充值总额高达363万余元。据报道，2024年4月，因用户举报，王某某和李某某（两名被告人均为化姓）二人被捕，AC停止服务。上海市徐汇区人民法院在一审判决认为，AC产生了“大量具体描绘性行为或露骨宣扬色情的内容”，属于淫秽物品。经公安机关抽样鉴定，150个收费用户的12495段聊天中，有141个用户的3618段属于淫秽物品。一审法院判决，两名被告人的行为构成制作淫秽物品牟利罪，分别获刑四年和一年半。构成制作淫秽物品牟利罪的主要原因在于：两名被告人通过编写和修改底层系统提示词（Prompt），人为突破了基础语言模型的道德约束机制。

两名被告人不服判决提出上诉。刘某某的辩护人北京盈科（上海）律师事务所律师周小羊表示，对于一审判决并不认同，“我们一审，包括现在二审，我们都是做的无罪辩护。”一审时，在事实认定方面，控辩双方就AC软件是否需要备案，编写、修改系统提示词的目的和作用问题及关于被告人是否采取有效措施防范色情内容等问题展开辩论。周小羊认为，这种封闭的聊天内容由AI和用户互动产生，开发者没有制作及传播淫秽聊天内容。他说：“机器AI和用户之间是一对一的封闭聊天，而且只是文字聊天，不涉及图片、视频，也没有传播出去。”


▲AC官方在社交媒体宣传用户创建的AI角色。网络截图
1月14日下午，二审庭审休庭后，周小羊称，他已向法院提交申请人工智能领域专家证人出庭作证的申请，还向法院申请做实验，验证输入相同内容提示词，是否会导致案涉AI大模型“聊黄”，但暂未获得法院回复。


▲AC官方账号发布的AI 和用户对话示意图。网络截图————————————
来      源：现代快报、扬子晚报

编      辑：王   聪
校      对：王根生
值班主任：钟玉芹审      核：施一楠