AI犯错,谁来负责?!

多客科技

作者：微信文章
回看了上周央视新闻频道的《新闻周刊》。其视点栏目《AI＂犯错＂，谁来负责？》。

去年6月，云南梁某用AI为弟弟查询高校报考信息，AI为其推荐了云南某职业高校某个校区，但梁某发现该校区根本不存在。面对梁某的纠正，AI言之凿凿地说如果不存在，我将赔偿10万元信息鉴定费，或者到杭州互联网法院起诉。于是，我国的AI幻觉第一案诞生了。

最后，法院判决驳回了原告梁某的诉求。由此引发全社会对此的广泛关注。这引发了全社会在人工智能时代，AI幻觉出现，犯错造成的损失，究竟该谁来负这个法律责任？

随着AI大模型的广泛使用，已经在全社会各个领域引发专业技术人员的思考。基于大数据，AI偶尔也会一本正经的＂打胡乱说＂，既AI幻觉。这样的情况，已经在司法领域、医疗领域、无人驾驶领域等，都已出现了相应的出错和问题。AI出错，究竟该谁来负责？！

AI，仅仅是一个工具而已，但不能作为判定、鉴定的主体。主体还是人，不应该交给AI。AI的判断，仅仅基于大数据，及其＂较真＂的内部逻辑，往往会出现幻觉，产生错误。譬如医疗领域，如果没有经过专业系统医疗专业系统的医生，如果一味地依靠AI来诊断患者的病情，开具处方，是极为不负责、不专业、不合理、不科学的做法，某种程度上来说，叫作谋财害命！

又譬如无人驾驶的事故责任划分。当下号称＂无人驾驶＂都是L2级别的智能辅助驾驶，还不是L5真正意义的＂无人驾驶＂。如果是厂家的虚假宣传，如果造成事故，无疑厂家该负责任。但如果自己不深入思考，认真鉴别，除了重大事故，甚至死亡事故，即使获得赔偿，又有什么意义呢？！代价是不是太大了呢？！假使不远的将来，能够实现真正的＂无人驾驶＂了，这对司法在人工智能时代也面临重大的实践改革。

不管AI有多强大！我们始终应记得，AI只是人类认识世界、改造世界的辅助工具而已。不能偷懒，或躺平式地依赖AI，我们更不能沦为AI的宠物或奴隶。而是应该更加主动积极，科学合理地掌握、利用AI这一工具来为我们的生产、生活服务而已。

2026年2月5日于草雨庐（7·72）