AI承诺生成内容有误将赔偿,算数吗?

新闻

作者：微信文章
近日，杭州互联网法院审结全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案。法院的判决为生成式人工智能服务厘清责任边界。当AI成为生活工作的助手，它所给出的不准确信息误导他人时，是否构成侵权？服务提供者负有怎样的责任？一起来看本期快问快答↓
QAI承诺生成内容有误将赔偿，算数吗？

A: 现实操作中，AI带来很多便利，但并非全知全能，其生成的答案可能包含看似合理实则错误的“幻觉”信息。杭州的案例中，AI甚至提出“如果生成内容有误，我将赔偿您10万元”，从而引发相关纠纷。从法院判决看，在生成式人工智能场景中，AI的承诺并不代表平台的意思。这既为AI生成内容划出红线，也进一步厘清了服务提供者的注意义务边界。
QAI模型是否属于独立的民事主体？

A: 法院判决明确，AI实际上不具有民事主体资格。从实践层面看，案涉AI自行生成的赔偿承诺也不能视为服务提供者的意思表示。也就是说，人工智能不是服务提供者的传达人、代理人或代表人，除非服务提供者通过AI模型来设定或传达相关信息，否则类似“生成内容有误将赔偿”这样的承诺是没有法律效力的。
QAI服务提供者有哪些责任义务？

A: 依据《生成式人工智能服务管理暂行办法》，生成式人工智能服务属于服务范畴。AI生成内容虽然不是我国产品质量法意义上的产品，但服务提供者负有严格审查义务。例如，发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改等。同时需以显著方式向用户提示AI生成内容可能不准确，发出“警示提醒”等，以防范用户产生不当信赖。



快问快答 你问我答

大家还有哪些问题

欢迎评论区留言

我们将从中挑选问题

为你寻求权威解答

来源/经济日报新闻客户端（记者/李万祥，策划/林紫晓）

---

监制/王薇薇

审核/万政

编辑/刘莉

校对/陈婧琳

本文内容系原创，转载请注明来源。

觉得好看，请点↓↓↓