AI“幻觉”入法庭:通州法院批评律师用AI编造虚假案例

多客科技

作者：微信文章
警惕！AI生成虚假案例扰乱司法秩序
AI-GENERATED FAKE CASES CHALLENGE JUDICIAL INTEGRITY

实务金手指
PRACTICAL TIPS


法律从业人员在援引人工智能模型生成的内容时，务必保持审慎理性，对信息的真实性和准确性进行严格核验，尤其涉及参考案例。法院将加大审查力度，对虚假信息零容忍，以维护司法秩序和公信力。识别AI虚假案例可关注案号规律化、案情过度贴合以及难以检索验证等特征。
裁判逻辑分析
LOGICAL ANALYSIS

1. 案件背景与争议焦点：
通州法院审理一起股权代持纠纷。核心争议在于原告代理人提交的参考案例的真实性及法律效力。2. 事实查明与代理人承认：
承办法官核实发现，代理人援引的最高法院某案例及上海一中院（2022）沪01民终12345号案件与实际情况不符。特别地，（2022）沪01民终12345号案件实为民间借贷纠纷。在质询下，代理人承认案例由某AI大模型软件生成，未经核实直接提交。3. 法院裁判依据与批评：
承办法官依据法律规定，对原告代理人该部分代理意见未予采纳，并在判决书中明确提出批评。要求代理人引以为戒，确保提交内容的真实性和准确性，不得放任人工智能模型编造虚假信息扰乱司法秩序。4. 法官释法与风险提示：
法官指出AI背后的诚信危机，并从三方面识别AI虚假案例：案号编排规律化（如连续整数“12345”）、案情描述过度贴合需求、难以通过检索验证。人民法院应加大审查力度，法律从业人员应将AI作为辅助工具，对生成内容进行严格审查。

案情全景
FULL CASE TEXT


基本案情

近日，通州法院审理了一起由股权代持引发的商事纠纷案件。诉讼中，原告代理人为了进一步佐证其观点，庭后向法院提交了书面意见，其中援引了名为最高法院的某案例及上海一中院的（2022）沪01民终12345号案件。从代理意见的描述来看，两案的事实细节、法律争议与裁判逻辑都与审理中的案件高度契合，完美佐证了原告代理人的主张观点，初看之下极具参考价值。

出于职业敏感性，承办法官进行了检索核实，结果却发现，这两个案号所对应的真实案件事实与代理人书面意见中描述的情况完全不同。其中，（2022）沪01民终12345号案件实际上是一起民间借贷纠纷，与书面意见中描述的事实完全不符，和本案所涉及的事实亦毫无关联，没有任何相似或者可以参照的情节。在承办法官的质询下，原告代理人最终承认，参考案例是由其提炼本案的事实情节，后反复向某AI大模型软件提问，由该软件生成的参考案例，代理人未进一步核实，而是直接复制粘贴后即提交法院。最终，承办法官依据法律规定，结合案件事实对原告代理人的该部分代理意见未予采纳。

承办法官在判决书中明确对原告代理人的行为提出批评，要求原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序，一审判决后，双方均未提出上诉，判决已经生效。

法官释法

看似无所不能的AI，背后隐藏着巨大的诚信危机。结合该案审理经验及司法实践规律，可从以下几方面识别AI生成的虚假案例特征：

▶案号编排存在规律化痕迹

真实司法案例的案号由年份、法院代字、案件性质代字、审级代字和案件编号组成，其中案件编号遵循受理顺序自然生成，具有随机性和连续性的统一特征。而AI生成案例的案号往往呈现刻意规律化的特点：多采用“12345”、“1234”等连续整数或“111”等具有明显特征的数字，如本案中出现的“12345 号”便属此类情况。所以遇到涉及此类案号的案件就要倍加小心。

▶案情描述过度贴合需求场景

AI大模型的生成逻辑基于概率统计与语境匹配，当使用者明确输入案件细节后，其生成的案例往往刻意贴合需求，事实细节、论理结论可能与使用者需求高度重合，呈现人为定制化特征。如果向AI提出的需求比较细节，而使用AI检索出的案例过于完美和契合，应当慎重处理。

▶难以通过检索方式进行验证

案例是对裁判文书的提炼和总结，AI模型虽能生成案例，但其生成的虚假案例并无真实裁判文书印证。且案件往往存在很多漏洞，AI有时会刻意模糊案件可识别要素，比如当事人的姓名等。故最稳妥的识别方法仍然是通过登录中国裁判文书网对生成案例的真实性进行核实和验证。

法官提示

近年来，ChatGPT、DeepSeek等软件引发的人工智能浪潮正深刻地改变着人们的工作方式，其强大的语言生成能力在短时间内就能输出看似专业、详实的文本。但在没有正确引导的情况下，AI极有可能生成误导性甚至虚假的信息。民事诉讼法及司法解释等对行为人利用AI生成不属于证据性质的虚假参考案例如何处理尚没有明确规定，但AI生成虚假信息对司法秩序带来的危害值得重视，虚假案例干扰了法院的正常审理流程，审判团队不得不花费额外的时间和精力对律师提交的案例进行反复查找和甄别核实，一旦AI生成的虚假信息被参照适用，司法公信力将受到质疑。

法律从业人员应将AI作为辅助工具，而非替代自身专业判断的神器。使用AI时，仍需保持审慎和理性，对AI生成的内容进行严格审查，确保信息来源可靠、内容真实准确。人民法院应当加大审查力度，运用技术手段和专业知识，对当事人及代理人提交的参考案例等资料进行严格甄别，确保司法过程中使用的信息真实可靠。
全网实务文章盘点
ONLINE ARTICLES REVIEW

AI生成的虚假司法案例大行其道，案件代理人遭法官批评_腾讯新闻https://news.qq.com/rain/a/20251027A043IT00

AI生成虚假案例入侵司法程序，法院：对原告代理人提出批评_法治中国_澎湃新闻-The Paperhttps://www.thepaper.cn/newsDetail_forward_31847359

原告代理人援引的“完美”案例竟是AI编造-新华网https://www.news.cn/legal/20251112/3316457e2827432ca782b6efcbb17bba/c.html

原告代理人援引的“完美”案例竟是AI编造https://news.cctv.com/2025/11/12/ARTIkF3ojknELxmD0i1yPLiD251112.shtml

警惕！AI生成的虚假判决书已经出现-审判动态|人工智能|中国知识产权律师网https://www.ciplawyer.cn/articles/157819.html

律师用AI虚构案例打官司，法官：警惕AI生成虚假案例干扰司法审理_腾讯新闻https://news.qq.com/rain/a/20251028A05A1X00

警惕！AI生成的虚假案例已经出现https://m.thepaper.cn/newsDetail_forward_31894500

AI生成的虚假司法案例大行其道，案件代理人遭法官批评__南方+_南方plushttps://static.nfnews.com/content/202510/27/c11853372.html

海泰CS律师服务团队

导航每一步，锁定安稳局

chenshi@hightac.com

[支持：海泰CS律师团队]