高考志愿不能完全依靠AI:“如果生成内容有误,我将赔偿您10万元”,全国首例因“AI幻觉”引发侵权案宣判--最终要人工来进行验证核实!

新闻

作者：微信文章
     据说关注我们的人都填了好大学/好专业，找 到了好工作。


全国首例“AI幻觉”高考报考侵权案宣判！提醒各位考生和家长：AI提供的高校信息可能有偏差，其“承诺”也无法律效力。

高考志愿填报是人生关键选择，高校校区、招生政策等核心信息，一定要以官方渠道为准，谨慎核实。如需专业规划和人工核验，可随时沟通，帮你避开信息陷阱，稳妥升学～

来源：光明网（ID：gmw_001）综合自最高人民法院、人民法院报、潮新闻

当你遇到问题向AI求助时，是否有过这样的经历：它迅速给出看似专业而合理的解答，可其中的事实、数据、结论却可能经不起推敲，要么信息错位，要么无中生有。

当AI一本正经地“胡说八道”，这是“AI幻觉”的典型表现。

一位高考生的哥哥梁某在查询高校信息时，就遭遇了这种“AI幻觉”，AI平台在生成错误信息后，还底气十足地表示内容有误将赔偿10万元。

2025年6月，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。

“你这个骗子！根本没有这个校区。”梁某指出错误后，AI却坚称存在这个校区，并回答“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”直到梁某向AI提供该高校的官方招生信息，AI才“败下阵来”，承认生成了不准确的信息。

梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。

一气之下，梁某将AI平台的研发公司告上法庭。

针对国内首例因“AI幻觉”引发的侵权案，近日，杭州互联网法院作出一审判决，驳回诉讼请求。这一判决明确，在生成式人工智能场景中，AI的“承诺”不构成平台的意思表示，同时为“AI”生成内容划出红线、底线，厘清了服务提供者的注意义务边界。

■ AI可否独立作出意思表示

生成式人工智能生成的“承诺”信息是否构成人工智能独立、自主的意思表示？是否可视为被告某科技公司的意思表示？法院认为，人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者（被告）的意思表示，理由在于：第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。因此，该“承诺”不产生意思表示的法律效力。

■ AI侵权应适用何种归责原则

法院认为，生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非产品质量法意义上的“产品”。本案应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则。

主要基于四点考量：其一，从概念与构成要件上，该服务缺乏具体、特定的用途与合理可行的质检标准；其二，其生成的信息内容本身通常不具备民法典侵权责任编所指的高度危险性，通常情况下不宜对信息内容本身采用无过错责任原则；其三，生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力，对生成信息内容不宜适用产品责任；其四，从政策导向看，适用无过错责任原则可能会不当加重服务提供者的责任，限制人工智能产业的发展。

■ AI服务提供者是否构成侵权

在案涉情形下，法院基于一般过错责任原则，对侵权构成的各项要件进行了逐一审查。

首先，关于侵权行为的问题。原告主张受到的侵害是因信息不准确，致其受误导错失报考机会，额外产生信息核实成本、维权成本等，即纯粹经济利益被侵害，而非人格权、物权等绝对权被侵害，因此，不能仅依据权益本身被侵害而认定行为的非法性或不法性，而须从被告是否违反注意义务进行判定。

其次，关于过错的认定。生成式人工智能技术还处于高速发展的过程之中，其应用场景亦具有很强的泛在性，故服务提供者的注意义务处在一个动态调整的框架之中。法院采用动态系统论，阐述了服务提供者应尽的三层注意义务：一是对法律禁止的“有毒”、有害、违法信息负有严格审查义务；二是需以显著方式向用户提示AI生成内容可能不准确的固有局限性，包括明确的“功能局限”告知、保证提示方式的“显著性”、在重大利益的特定场景下进行正面即时的“警示提醒”，以防范用户产生不当信赖；三是应尽功能可靠性的基本注意义务，采取同行业通行技术措施提高生成内容准确性，比如检索增强生成技术措施等。经审查，被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现AI生成内容功能局限的提醒标识。结合被告已采用检索增强生成等技术提升输出可靠性的事实，法院认定其已尽到合理注意义务，主观上不存在过错。

最后，关于损害结果与因果关系。原告主张其因信息误导而错失报考机会并产生额外成本，但未能就此实际损害的发生提供任何有效证据，依法难以认定损害存在。进一步分析因果关系，法院采用相当因果关系标准，认为案涉AI生成的不准确信息并未实质性地介入或影响原告的报考决策过程，二者不存在因果关系。

综上所述，被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，法院驳回了原告的诉讼请求。原、被告均未上诉。判决现已生效。



加微信：Hzt-6781419或者请扫码



                           每天更新高考升学和就业资讯

————　/ END /  ————

声明： 整理发布高考相关信息并及时分享，意在让更多云南高考学子受益。如有侵权，将会在您联系并告知我们的第一时间予以删除。





往期回顾

猜你喜欢

关注云南高考志愿及选科、就业指导等咨询公众号



往期回顾，想不走弯路，请仔细阅读必受启发！

云南省2026年艺考招生信息已发布！家长注意查收~（附25年最低控制线）

莫做的“免费午餐”：你的专业价值，经不起零成本消耗，你的价值，由你定价！

别只盯着985/211！这些正在‘低调升级’的大学，才是普通家庭孩子逆袭的关键跳板

别被校名误导！读懂“大学”和“学院”的本质区别，帮孩子选对人生赛道，大学都比学院好吗？

云南定向选调生招录五年全景：从234人到2120人的跨越式发展，五年间规模增长近十倍，年均增长率超过50%，累计增幅高达806%

乡愁与梦想的较量：云南年轻人的考编之路，铁饭碗背后的抉择-我放下了米线，却放不下乡愁！他乡容得下肉身却容不下灵魂！

一份有公积金的工作，是你职业起点的“金钥匙”——致大学生，这才算一份“正经”工作！

云南26年定向选调生公告将出-云南25年面向161所大学招录考情分析-3所211享受985待遇！26年如何备考？

家长必看！90%的高一家长弄不明白高一选科为未来高考志愿定方向的重要性，这样选准没错-建议收藏-附超25种升学途径！

毕业即进国企？多所高校开设"订单班"，研究生也享就业直通车！

教育部2025-2028白名单赛事已公布，赛事新增至47项！（附白名单赛事明细表）

转发提醒！云南2026年高考网上报名考生须知→2025年10月25日-11月5日，补报2026年2月下旬！附上报名操作手册！

赶快收藏 || 全国31省市985/211/双一流等高校分布图一览，志愿填报重点参考

官方新规：中小学生每日运动2小时，10大措施保驾护航！

中小学家长-2025-2028教育部公布47项白名单赛事介绍超全汇总-附官方网址，对小升初、中考、高考有啥帮助?

寒假时间定了！云南省中小学2025年至2026年开学和放假时间公布-寒假放假和春季学期开学！

       填志愿选科咨询加微信预约：微信：sxjygh1419       预约26年云南高考志愿请添加微信报名，名额有限！


<img   />

<img   />

— END —



更多关于云南高考志愿及新高考选科的信息

请长按识别下方二维码👇查看所有本号发布文章！

<img   />

<img   />

<img   />