AI换脸诈骗法律适用

新闻

作者：微信文章
AI换脸诈骗法律适用
随着人工智能技术的迅猛发展，AI换脸技术已被广泛应用于影视制作、娱乐等领域，但同时也为犯罪提供了新的工具。近年来，利用AI换脸技术实施的诈骗案件层出不穷，特别是冒充领导视频指令转账的诈骗模式，已经形成完整的黑色产业链。此类案件涉及提供技术工具者与实施诈骗者等多方责任主体，如何准确界定各参与者的刑事责任成为司法实践中的新挑战。结合《刑事诉讼法》2025年最新修改版及司法解释、《刑法》及相关司法解释，分析AI换脸诈骗案件的法律适用，通过探讨帮信罪与诈骗罪的界分标准、证据审查要点以及责任认定原则，为新型技术犯罪的治理提供法律解决方案：
一、AI换脸诈骗的基本模式与法律定性
AI换脸诈骗是一种利用人工智能技术伪造他人面容和声音实施诈骗的新型犯罪模式。其基本技术原理是通过深度学习算法，提取目标人物的面部特征和声音特征，然后将这些特征合成到特定视频或音频中，生成足以以假乱真的伪造内容。这类诈骗通常针对企业财务人员或个人亲属，通过冒充领导、亲友等可信身份，以紧急事务为由诱导受害人转账汇款。
（一）、从行为模式来看，AI换脸诈骗案件通常涉及以下参与者：
1.技术提供者：提供AI换脸工具、技术支持或操作服务的人员
2.信息收集者：负责收集被冒充者的面部特征、声音样本及个人信息的人员
3.诈骗实施者：直接与受害人联系，通过伪造视频实施诈骗的人员
4.资金转移者：通过银行卡、支付账户等帮助转移诈骗资金的人员
从法律定性角度，2025年7月28日“两高一部”发布的《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》（以下简称《帮信罪意见》）进一步明确了帮信罪的认定标准。根据该意见，提供AI换脸工具为诈骗活动提供技术支持的行为，符合《刑法》第二百八十七条之二关于帮助信息网络犯罪活动罪的规定：“明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持，或者提供广告推广、支付结算等帮助，情节严重的行为”。
（二）、而对于实施诈骗者，则直接适用《刑法》第二百六十六条关于诈骗罪的规定。诈骗罪的定罪量刑主要依据诈骗数额和情节严重程度：
1.数额较大的处三年以下有期徒刑、拘役或者管制，并处或者单处罚金
2.数额巨大或有其他严重情节的处三年以上十年以下有期徒刑，并处罚金
3.数额特别巨大或有其他特别严重情节的处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产
在AI换脸诈骗案件中，由于技术提供者与诈骗实施者往往存在明确的分工合作，但又不构成典型的共同犯罪关系，因此需要根据各自的行为性质和主观故意分别定罪量刑。这种区分处理模式既符合罪责刑相适应原则，也能有效打击此类犯罪的全产业链。
4.在AI换脸诈骗案件中，不同角色的法律责任如下：
（1）技术提供者：如果技术提供者明知他人将利用AI换脸技术实施诈骗，仍提供AI换脸工具、技术支持等，根据《刑法》第二百八十七条之二规定，可能构成帮助信息网络犯罪活动罪 。其责任基础是为诈骗犯罪提供了技术帮助，使得诈骗行为能够得以实施。如果技术提供者与诈骗实施者存在共谋，共同策划利用AI换脸技术进行诈骗，则可能构成诈骗罪的共同正犯 。
（2）信息收集者：信息收集者通过非法手段收集个人信息、面部特征等，根据《刑法》第二百五十三条之一规定，构成侵犯公民个人信息罪 。他们的行为违反了公民个人信息保护的相关法律规定，非法获取并提供公民个人信息，为AI换脸诈骗提供了必要的信息基础，侵犯了公民的个人信息安全。
（3）诈骗实施者：诈骗实施者直接利用AI换脸技术，通过虚构事实、隐瞒真相的方式，使被害人产生错误认识并基于这种错误认识处分财产，根据《刑法》第二百六十六条规定，构成诈骗罪 。其主观上具有非法占有他人财物的目的，客观上实施了欺骗行为，符合诈骗罪的构成要件。
（4）资金转移者：资金转移者明知是诈骗所得资金，仍进行转移、套现等操作，根据《刑法》第三百一十二条规定，构成掩饰、隐瞒犯罪所得罪 。他们的行为旨在掩盖诈骗资金的来源和去向，帮助诈骗实施者逃避法律追究，破坏了司法机关对犯罪所得的追缴和处置。
二、帮信罪与诈骗罪的界分标准
在AI换脸诈骗案件的司法认定中，准确区分帮助信息网络犯罪活动罪（帮信罪）与诈骗罪的共犯至关重要。根据2025年“两高一部”《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》，两罪的界分主要基于主观明知、客观行为和行为目的三个维度。
1.主观明知内容的差异：帮信罪的主观明知是指行为人明知他人可能利用信息网络实施犯罪，仍提供技术支持或帮助，这种明知可以是概括性故意，而不要求明确知道上游犯罪的具体内容。相比之下，诈骗罪共犯则要求行为人与实施诈骗者之间存在意思联络，明知诈骗的具体计划仍然提供帮助或参与实施。例如，在AI换脸诈骗中，如果技术提供者仅知道其提供的换脸技术可能被用于违法犯罪，但不知道具体用于何种诈骗行为，则可能构成帮信罪；如果技术提供者与诈骗团伙共谋，针对特定诈骗对象定制换脸视频，则可能构成诈骗罪的共犯。
2.客观行为性质的区分：帮信罪的行为表现为为网络犯罪提供技术支持或帮助，但自身不直接参与实施诈骗行为。这类行为通常具有中立性和可替代性特点，即同样的技术既可以用于合法目的，也可以用于非法目的。而诈骗罪的行为则直接表现为实施欺骗行为，使受害人产生错误认识并处分财产。根据《帮信罪意见》，在涉“两卡”帮信犯罪案件中，应先行查证流入资金中被帮助对象涉嫌犯罪金额等，是否达到被帮助对象实施的相关信息网络犯罪的入罪标准，防止仅依据行为人的行为符合“情节严重”一项情形即一概认定构成帮信罪。
3.行为目的与利益关联的不同：帮信罪的行为人通常不以直接分赃为目的，而是通过提供技术或服务获取固定报酬或使用费。而诈骗罪共犯则往往与诈骗实施者存在利益分成关系，按照诈骗所得的比例获取报酬。例如，在湖北侦破的首起“AI换脸”案中，犯罪嫌疑人阿成通过AI换脸接单非法获利达40余万元，但这种获利是基于提供技术服务的对价，而非直接从诈骗金额中分成。
2025年《帮信罪意见》对涉“两卡”犯罪的“情节严重”标准进行了调整：将出售、出租本人银行账户、支付账户并达到相应流水金额的“情节严重”标准，明确为出售、出租本人三个银行账户、支付账户并达到相应流水金额；将收购、出售、出租电话卡20张以上属于“情节严重”情形，调整为不再区分他人、本人，只要收购、出售、出租电话卡20张以上，即认定属于“情节严重”情形。这一调整体现了对帮信罪认定标准的进一步细化，虽然针对的是“两卡”犯罪，但其原理同样适用于AI换脸等技术帮助行为。
4.帮信罪与诈骗罪帮助犯的关键区分点：
（1）主观方面：帮信罪的主观为概括性故意，即仅明知自己提供的帮助可能被用于犯罪，但对具体犯罪类型、计划等不明确；诈骗罪帮助犯则是具体故意，清楚知晓上游的诈骗计划并提供针对性帮助。
（2）行为性质：帮信罪的行为多属中立技术支持，如提供支付结算、技术服务等，不直接参与诈骗的核心环节；诈骗罪帮助犯的行为直接融入诈骗流程，如参与话术设计、收取赃款等。
（3）利益模式：帮信罪通常获取固定报酬或技术服务费，收益与上游犯罪的获利多少无直接关联；诈骗罪帮助犯多以按比例分赃或利益分成的方式获利，收益与诈骗成果直接挂钩。
（4）联系程度：帮信罪与上游犯罪的联系较为松散，一般不与上游犯罪人存在共谋或紧密协作；诈骗罪帮助犯与诈骗实行犯联系紧密，常存在事前通谋、事中配合等协作关系。
三、证据审查与技术甄别难点
AI换脸诈骗案件中的证据审查面临前所未有的挑战，主要体现在深度伪造技术对传统证据规则的冲击上。根据人民检察院2025年发布的《AI深度伪造技术对证据审查的影响及应对》，深度伪造技术能够高效率、低成本地生成虚假的文字、图片、视频、音频，达到以假乱真的效果，严重影响司法办案的效率和效果。
1.传统证据的可靠性受到质疑：刑事审查中证明力较强的监控视频、通话录音、聊天记录截图、转账记录截图等，更容易被深度伪造技术“加工”，且难以留下伪造痕迹。对于音视频等形式的证据，其在逻辑链条中的优先级一般是高于其他言辞证据的，深度伪造使检察人员无法再相信“眼见为实”，击破逻辑演绎推理案件事实的基础。例如在大庆市萨尔图区法院审理的AI换脸诈骗案中，犯罪分子利用AI“换脸”软件，实时合成出受害人儿子的面容和声音，使年过七旬的王某夫妻俩信以为真，被骗取18万元现金。
2.检察机关需要采取新的证据审查方法：加强对深度伪造证据固有缺陷的审查。目前AI的能力仍无法生成“完美”伪造的图片或者视频，经过深度伪造的证据可能存在一些固有的不自然或者不协调的地方：
（1）深度伪造视频中人物会存在动作重复、僵硬、不协调、不自然，让观察者有轻微的异常感；
（2）面部尤其是眼部、嘴部动作不连贯，牙齿可能出现重影分层，手部变形或者手指数量不对等问题；
（3）在审查办理案件过程中，对于经原始视频片段编辑生成的伪造视频，可以将重要的视频片段与其他视频片段比对，分析视频的编码格式和参数，查看码率等是否一致，分析有无异常修改痕迹。
3.加强对证据来源和证据保存的审查：深度伪造证据多以电子数据、视听资料为载体，检察人员要遵循“先外后内”的审查顺序，首先审查外在载体的同一性，其后审查提取过程和内容完整性。要严格适用“两高一部”发布的《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》和《公安机关办理刑事案件电子数据取证规则》，引导公安机关对电子数据和视听资料依法取证。例如对当事人手机中存储的视频、照片和聊天记录，要尽量扣押、封存原始存储介质，对于当事人主动提供的证据，要和手机中的原始数据进行比对，核查照片、视频的作者姓名、分辨率、文件格式以及拍摄时间等原数据信息，分析是否有修改痕迹，确保证据的真实性。                        4.加强对抗技术的部署和运用：针对深度伪造视频的识别技术有多种模式，常见的可以采用视频帧内差异的检测技术，有针对面部关键点特征的检测、双流网络检测和胶囊网络检测等技术，也出现了以视频完整性为基础进行检测的方法等。检察机关应当加强与技术公司的合作，借助AI的能力检测AI。在2025年《刑事诉讼法》最新修改版及司法解释中，也强调了技术侦查措施在办理新型犯罪中的应用，允许司法机关采取必要的技术手段查明案件事实。
5.严厉打击伪造证据的行为：在刑事诉讼中，证人、鉴定人、记录人、翻译人对与案件有重要关系的情节，故意作虚假证明、鉴定、记录、翻译，意图陷害他人或者隐匿罪证的行为均构成伪证罪。检察人员在办案中要加强对伪造证据行为的发现和依法处置，对深度伪造证据企图逃避打击或者意图陷害他人的要依法追究刑事责任或者及时向公安机关移送线索，斩断黑灰产业链条。
6.AI换脸证据的审查要点与方法：
（1）形式审查：通过分析文件格式、分辨率、拍摄时间等技术手段，检查证据的文件属性与元数据，确认其形式上的完整性与规范性。
（2）内容审查：借助检测面部特征点、动作连贯性等技术手段，分析证据中人物动作、表情的一致性，判断内容是否存在异常。
（3）技术审查：运用分析码率一致性、数字签名等技术手段，比对证据的编码参数与数字指纹，甄别是否存在AI合成痕迹。
（4）来源审查：通过核实原始存储介质、扣押手续等方式，追踪证据的来源与保管链条，确保其来源合法、保管规范且未被篡改。
四、责任认定与量刑参考
在AI换脸诈骗案件中，责任认定与量刑需要综合考虑行为人在犯罪链条中的地位作用、主观恶性、违法所得以及退赃退赔等情况，准确贯彻宽严相济刑事政策。2025年“两高一部”《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》明确规定，对于组织性、职业性和跨境协同实施的帮助信息网络犯罪活动行为，以及实施帮助信息网络犯罪活动等犯罪的组织者、策划者、指挥者、骨干成员等，依法从严惩处；对于未成年人、在校学生，以及处于犯罪链条末端、情节较轻的人员，依法从宽处理。
1.主观明知的认定：帮信罪的主观明知认定可采用推定的方法，结合行为人的认知能力、既往经历、行为次数和手段、与他人关系、获利情况、是否曾因类似行为受处罚、是否故意规避调查等因素进行综合分析。根据《帮信罪意见》，具有以下情形之一的，可以认定行为人明知他人利用信息网络实施犯罪（除非有相反证据）：
（1）经监管部门告知后仍实施有关行为的；
（2）接到举报后不履行法定管理职责的；
（3）交易价格或者方式明显异常的；
（4）提供专门用于违法犯罪的程序、工具或者其他技术支持、帮助的；
（5）频繁采用隐蔽上网、加密通信、销毁数据等措施或者使用虚假身份，逃避监管或者调查的；
（6）为他人逃避监管或者调查提供技术支持、帮助的；
（7）其他足以认定行为人明知的情形。
2.跨境电信网络诈骗犯罪的追缴、退赔责任区分：根据四川省高级人民法院2025年发布的《实践法学笔谈》，共犯的追缴、退赔责任模式主要有三种：连带责任、独立责任和混合责任。在AI换脸诈骗案件中，对于提供技术工具者，宜按照其实际违法所得承担追缴责任；对于实施诈骗者，则需对全部诈骗金额承担退赔责任。对于主犯，按照犯罪集团（团伙）的全部犯罪数额承担追缴、退赔责任；对于从犯，仅在实际违法所得范围内承担追缴、退赔责任。
3.量刑情节的适用：2025年两高《关于办理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》增加了从宽处罚情形，规定“积极配合司法机关追查上游犯罪起较大作用的”可以从轻处罚。这一规定同样适用于帮信案件，鼓励行为人积极配合追赃挽损，努力挽回人民群众财产损失。在AI换脸诈骗案件中，技术提供者如果能够积极配合公安机关，提供技术解析和支持，协助识别诈骗实施者，可以认定为“积极配合司法机关追查上游犯罪”，依法从宽处理。
4.涉“两卡”帮信犯罪的“情节严重”标准：《帮信罪意见》对涉“两卡”犯罪的“情节严重”标准进行了整合调整：
（1）将原规定的出售、出租本人银行账户、支付账户并达到相应流水金额的“情节严重”标准，明确为出售、出租本人三个银行账户、支付账户并达到相应流水金额；
（2）将原规定的收购、出售、出租他人电话卡20张以上属于“情节严重”情形，调整为不再区分他人、本人，只要收购、出售、出租电话卡20张以上，即认定属于“情节严重”情形。
虽然这一标准针对的是“两卡”犯罪，但其体现的比例原则和责任相当原则同样适用于AI换脸诈骗案件中的技术帮助行为。对于提供换脸工具者，应当根据其提供支持的次数、持续时间、获利情况等因素综合认定是否构成“情节严重”。
5.AI换脸诈骗案件中帮助犯的常见量刑情节及影响：
（1）从重情节
组织者、策划者、指挥者；
骨干成员、核心技术提供者；
曾因类似行为受处罚；
故意规避调查、销毁数据。
（2）从宽情节及量刑影响
未成年人、在校学生：减少基准刑30%以下；
犯罪链条末端人员：可能适用缓刑；
初犯、偶犯，积极退赃退赔：减少基准刑20%以下；
积极配合追查上游犯罪：减少基准刑10%-30%。
五、防范与治理建议
应对AI换脸诈骗这一新型犯罪形式，需要从技术防范、司法治理、社会预防和国际协作等多个维度构建综合治理体系，有效遏制此类犯罪的发展蔓延。随着DeepSeek等大模型人工智能技术的快速发展，深度伪造技术也在AI进化的潮流中“水涨船高”，明星换脸、换声的虚假视频在网络上不断涌现，必须采取积极有效的措施应对这一挑战。
1.技术层面：研发和部署深度伪造检测技术至关重要。针对深度伪造视频的识别技术有多种模式，常见的可以采用视频帧内差异的检测技术，有针对面部关键点特征的检测、双流网络检测和胶囊网络检测等技术，也出现了以视频完整性为基础进行检测的方法等。检察机关应当加强与技术公司的合作，借助AI的能力检测AI。同时，企业和机构可以采取多重验证机制，对于涉及资金转账等重要指令，必须通过多种渠道核实确认身份，不能仅凭视频或语音指令就执行转账操作。
2.司法层面：要进一步完善法律规范体系和证据审查标准。根据2025年《刑事诉讼法》最新修改版及司法解释，司法机关在办理新型技术犯罪时，可以聘请有专门知识的人参与诉讼，对技术问题进行说明和质证。建议最高人民法院、最高人民检察院针对AI换脸等深度伪造技术犯罪发布专门的指导意见，统一法律适用标准。同时，要加强检察人员的专业技术培训，提升对人工智能技术的认识，始终走在法律从业者的前列，主动关注人工智能等领域的最新学术研究成果和技术报告，对网络中流行的深度伪造技术工具要有所掌握。
3.社会预防层面：要加强公众宣传教育，提高对AI换脸诈骗的防范意识。通过媒体报道、社区宣传、专题讲座等形式，向社会公众介绍AI换脸诈骗的常见手法和防范措施。尤其要针对易受骗人群（如老年人、企业财务人员等）开展针对性宣传，提醒他们在遇到“亲友”、“领导”通过视频电话要求转账汇款时，务必通过原有联系方式进行二次验证。金融机构也要加强对大额转账的审核力度，对于异常转账行为进行风险提示和延迟处理。
4.国际协作层面：要加强跨境司法协作，共同打击AI换脸诈骗犯罪。由于很多AI换脸诈骗犯罪具有跨境特征，如马来西亚10余名议员遭勒索案显示，犯罪者往往利用境外服务器和技术实施犯罪。因此，需要加强国际司法协作，在情报交流、调查取证、人员缉捕等方面开展务实合作。同时，要加强技术标准的国际协调，推动建立全球性的深度伪造技术检测和治理标准，防止犯罪分子利用司法管辖差异逃避打击。
5.行业自律层面：互联网平台和AI技术开发企业要履行社会责任，加强内容审核和技术伦理建设。提供AI换脸服务的技术平台应当建立严格的身份认证和内容审核机制，防止技术被滥用。对于疑似违法犯罪的行为，要及时采取措施并向有关部门报告。技术开发企业要在产品设计阶段就考虑伦理和安全问题，嵌入必要的防护措施和水印技术，方便追溯和识别伪造内容。
6.需要强调的是，治理AI换脸诈骗犯罪需要多方协同、多措并举，既要“抓末端，治已病”，更要“抓前端、治未病”，打好“组合拳”，做实帮信犯罪的综合治理。只有技术开发商、平台企业、司法机关、金融机构和社会公众共同参与，才能构建起有效的治理体系，应对AI技术发展带来的安全挑战。
总之，AI换脸诈骗作为一种技术驱动的新型犯罪，给司法实践带来了新的挑战，但也推动了法律规则的不断完善和司法能力的持续提升。通过准确界定技术提供者与诈骗实施者的法律责任，完善证据审查标准，贯彻宽严相济刑事政策，我们能够在鼓励技术创新的同时，有效遏制相关犯罪活动，维护社会公平正义和人民群众财产安全。希望以上分析对您有所帮助。如果您或身边的人面临具体困境，建议寻求专业法律人士的帮助，始终是最稳妥的选择（咨询电话：13805516361）。