AI承诺推荐志愿有误赔10万?全国首例“AI幻觉”误导案宣判,给所有考生志愿填报敲响警钟!

新闻

作者：微信文章



/ 紧急提醒 /是不是好久没有刷到过学小魁的推送啦~一定错过了很多干货分享！
现在将『学魁图书官方』设置为“星标★”从即刻起，学习路上，我们不再失联！↓设星标操作指南↓







学小魁播报

“AI一键生成最优志愿方案”“AI大模型，让志愿填报不再靠蒙”…… 各类AI填志愿产品近两年扎堆上线，成为高考志愿填报市场上的 “香饽饽”。但是用AI填报志愿，真的靠谱吗？

近期，全国首例“AI幻觉”侵权案宣判，引起热议。一位高考生家属在查询高校信息时，AI不仅提供了错误的校区信息，在被指出错误后仍坚持己见，甚至“承诺”若信息有误可赔偿10万元。家属愤而起诉，最终，法院认定该“承诺”不具备法律效力！






这起案件也给我们广大考生和家长敲响了警钟！我们原以为AI能打破信息差，却可能被更隐蔽的“信息幻觉”误导！


AI幻觉的概念



“AI幻觉”一词指的是人工智能模型生成的内容，不是基于任何现实世界的数据，而是模型自己想象的产物。就聊天机器人而言，幻觉指的是在原本正确的回答中加入不正确的信息，把错误的信息当作事实同正确的数据一起呈现，使人难以分辨其真假。




AI幻觉可以分为内在幻觉和外在幻觉两类：




内在幻觉是指AI生成的输出内容与输入内容不一致的幻觉内容。这种错误主要表现在AI模型给出的回答与用户的输入问题或对话历史上下文信息相矛盾。




外在幻觉是指AI生成的输出内容与世界知识不一致或是通过已有信息无法验证的内容。这种错误通常表现为AI模型针对用户提出的事实性问题给出错误回答，或编造无法验证的内容。


AI幻觉的危害



1、新闻领域的风险




大语言模型可能生成虚假新闻，扰乱信息传播，误导公众。Vectara公司研究显示，聊天机器人编造事实的几率高达30%。错误和虚假信息被列为2025年全球面临的五大风险之一。

2、法律领域的风险




AI可能引用虚构的法律条文和案例。2023年美国律师因轻信ChatGPT，在法庭文件中引用了不存在的法律案例。

3、科学参考文献的错误

《自然》报道指出，AI幻觉在科学参考文献方面错误普遍。2024年研究发现，聊天机器人在提及参考文献时的出错率在30%至90%之间。聊天机器人在论文标题、第一作者或发表年份上常出现偏差。


我国AI产业发展现状





目前，我国已形成覆盖基础层、框架层、模型层、应用层的完整人工智能产业体系。最新数据显示，截至2025年4月9日，我国人工智能专利申请量达1576379件，占全球申请量的38.58%，位居全球首位。已累计培育400余家人工智能领域国家级专精特新“小巨人”企业，占据了全球十分之一的人工智能产业规模，形成了完整的人工智能产业体系。




应用层面已深度渗透制造、医疗、金融、传媒等多个领域，通过“人工智能+”模式实现各行业效率提升与业态创新，工业智能体、AI原生终端等落地场景持续拓展，成为驱动新质生产力发展的核心引擎。




高校则构建了“专业+交叉+通识”三级培养体系，覆盖本研与职业教育，正从规模扩张转向质量提升，虽然我国AI领域专利数量、融资规模稳居全球前列，但仍面临核心人才缺口较大、课程与技术迭代衔接不足、产教融合深度不够等挑战，目前正通过政策引导、产教协同、开源生态建设等举措，推动AI产业从规模扩张向质量提升转型，助力实现高水平技术自立自强。


专业发展





人工智能专业的发展与新工科建设深度绑定，2018年教育部认定612个项目为首批“新工科”研究与实践项目，含202个综合改革类项目和410个专业改革类项目，其中专业改革类涵盖人工智能类、大数据类、智能制造类等19个热门新工科项目群。









人工智能是新工科人工智能类最具代表性的专业，人工智能属于电子信息类，是一个以计算机科学为基础，由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。




该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。随着全球化进程的不断加速，科学技术的高速发展，人工智能越来越多地出现在我们的生活中，尤其是ChatGPT、DeepSeek的出现，更把人工智能推向了高潮。

近几年，很多高校纷纷开设人工智能专业。2019年，全国35所高校率先获得人工智能专业的首批建设资格。据不完全统计，目前已有超500所高校成功申报人工智能本科专业。

以下是软科2025年人工智能中国大学专业排名，仅供参考：






（图片来源：软科）




人工智能专业作为我国培育AI领域核心人才的核心载体，其人才输出与技术落地从多维度深度赋能我国未来社会发展，推动AI技术与医疗、教育、交通、政务等民生领域深度融合，也为AI基础理论研究和前沿技术攻关输送科研创新人才，助力破解“卡脖子”技术难题、夯实科技创新底座，支撑我国实现高水平科技自立自强。可以说，人工智能专业是我国实现科技强国、制造强国、数字中国战略目标，推进中国式现代化的关键人才与技术基石。




当然，在志愿填报过程中，我们可以充分利用AI工具，通过“人机协同”的方式制定最优填报方案。在采纳AI建议前，更要认真核验其生成的志愿填报方案，对照教育考试院、院校官网等官方渠道，再次查阅目标院校的历年录取分数、录取位次和专业招录信息等核心内容，最大限度减少“AI幻觉”和数据误差带来的不利影响。唯有让AI回归工具本位，才能避免因过度依赖而产生决策误判。



如果你想了解更多教育资讯和中高考复习干货，记得关注并星标哦~学小魁将持续为大家带来精彩内容。欢迎扫码添加小助手，领取更多学霸复习资料。
END


在刷母题的学小魁
长按识别二维码添加学魁小助手

私信发送关键词“20260203化学”

即可免费领取高中化学374考点

👇👇👇




来源丨网络学魁图书官方进行编辑整理，转载请注明完整来源。文章来自网络，其版权和文责属原作者所有，若来源标注错误或侵犯到您的权益，烦请告知，本平台查核属实后，将立即删除消息。