AI 时代“亲耳所闻”“亲眼所见” 可能都是陷阱

多客科技

作者：微信文章


人工智能作为新一轮科技革命和产业变革的关键要素，已成为世界各国战略资源和软实力竞争的焦点。与此同时，随着人工智能技术的快速发展和广泛使用，新型的安全风险也随之涌现，特别是由深度合成技术（Deepfake）引发的安全风险。不法分子利用深度合成技术生成以假乱真的有害视频、图像等视觉内容，引发了诸如电信诈骗、公众人物名誉诋毁、不雅视频伪造以及绕过人脸识别系统等安全问题。“眼见不一定为实”的问题已经引发了公众对人工智能安全的普遍担忧。

深伪事件频发  威胁迫在眉睫

古人云“耳闻不如目见”，相对于文本及音频信息，视觉信息更加直观且更具说服力，因而基于深度合成技术生成的图像及视频对于公众的迷惑性更强。

2024年1月，诈骗分子利用深度合成技术在视频会议中仿造某公司高层管理者的形象和声音，骗取了中国香港某跨国公司近2亿港元；同月，大量由AI生成的美国知名歌手泰勒·斯威夫特的不雅视频在网络上疯传，引发公众广泛关注及热议。

2024年6月，公安部网安局在其公众号上披露了多起涉及人工智能技术的深度伪造典型案例，凸显人工智能技术被不法分子滥用时造成的严重社会危害。其中一起案件为犯罪嫌疑人白某某利用人工智能软件，对被害人的图片进行所谓的“一键去衣”处理，批量生成了近7000张淫秽图片并通过网络进行贩卖。另一起案件则是以王某为首的犯罪团伙通过网络渠道收集被害人图片信息，利用AI换脸技术合成不雅照片来实施敲诈勒索，严重侵害了被害人的合法权益。



以上案例均表明，随着人工智能技术的不断发展，其被滥用的风险也在不断增加。根据奇安信发布的《2024人工智能安全报告》显示，2023年基于AI的深度合成欺诈事件暴增3000%。这类事件的频发暴露出深度合成技术对个人、社会以及国家安全的潜在威胁，部分公众担心深度合成技术将会武器化，被用于煽动暴力、仇恨甚至恐怖主义等。

业界关注度日益增加 安全范式变革进程加快

虽然深度合成技术仍处于快速发展阶段，但已经引起了业内的广泛关注和重视。为了应对该技术可能带来的安全风险和伦理问题，业内已经展开了对该技术的监管与治理行动。

2024年2月17日，在第60届慕尼黑安全会议（MSC）上，包括亚马逊、谷歌、IBM、Meta、Microsoft、OpenAI和TikTok等在内的20家科技公司宣布，承诺将联合打击“深度合成”信息，努力检测和抵制欺骗性的人工智能生成内容，减少欺骗性人工智能内容的生成及其带来的风险。

2022年，国家网信办、工信部和公安部联合发布《互联网信息服务深度合成管理规定》，针对人脸生成、替换、编辑、操控等深度合成技术提出规范性要求。2023年，国家网信办等七部门颁布《生成式人工智能服务管理暂行办法》，进一步明确了对生成式人工智能服务的“分类”和“分级”监管，并要求深度合成服务的提供者必须对图片、视频等生成内容进行标识。

无论是监管机构还是行业厂商，在积极拥抱潜力巨大的人工智能技术的同时，都需要谨慎评估技术风险及影响，确保防范技术和监管机制能够及时跟进。

创新的本质具有颠覆性，创造的过程难免伴生破坏性，人工智能技术革新可能带来的现实和潜在风险亟须高度关注。能否应对AI的“创造性破坏”，是当前国际社会普遍关注的课题。

AI技术应用需要多层面深度治理

应对新的风险和挑战，人工智能技术如何恪守以人为本的理念善智向上，如何消弭风险、除弊兴利……对于此类问题，杭州互联网法院副院长朱敏明认为：

构建人工智能的伦理框架，强化伦理规则。人类发展人工智能技术的根本目的在于促进人类自身的发展，故技术的开发、使用、传播都应符合社会预期，与人类整体的价值观念、伦理原则对齐，建立人工智能伦理准则、科技伦理审查和监管制度等，将道德算法、伦理准则嵌入人工智能技术之中。即始终坚持以人为本、智能向善理念，确保人工智能技术有益、安全、公平。

创新人工智能领域规则供给机制，框定技术红线。目前有关“AI换脸”技术的规定，尚存在效力位阶偏低、内容偏原则等不足，而人工智能技术发展方兴未艾、日新月异，传统的规则供给模式难以快速有效回应社会发展的需求，亟待进一步强化法律制度供给，创新规则供给制度，同时发挥好硬法规则原则性、方向性的稳定权威规制特性及软法规则小而精、快而准的迅捷灵活治理特性，以科学的法律、法规体系为人工智能技术框定红线、底线，指明发展应用的主要行业方向。

强化行业自治自律，推动形成人工智能技术协同共治的格局。在可预计的未来，人工智能技术将渗透到社会生活的每一个角落，对人工智能技术引发的风险治理，难以单靠政府部门一己之力或司法部门单打独斗。实际上，技术开发、技术应用、网络平台、传播主体等，都应当是治理责任传导链的重要主体，应激励自治动力、培育共治价值、增强自律规制，进一步压实行业主体责任。

支持开发反深度合成技术，提升技术防范能力。随着AI技术的不断发展和扩大应用，常人难以迅速、准确识别深度合成技术，多种权利面临被侵犯的危险。这就有必要为个人、企业和监管部门提供可靠的鉴别技术，形成较为明确的鉴别标准，创新治理工具，实现“用魔法打败魔法”，正如中央网信办在《全球人工智能治理倡议》中所言：“积极发展用于人工智能治理的相关技术开发与应用，支持以人工智能技术防范人工智能风险，提高人工智能治理的技术能力。”

加大普法宣传广度力度，增强法律底线意识。虽然刑法及民法典、个人信息保护法、信息网络传播权保护条例等，对公民个人信息的保护均有相应规定，还有深度合成人工智能技术进行规制的《规定》，但一般公民往往对专业性较强的法律法规及规章制度缺乏了解。且“AI换脸”技术是对年轻人具有较强吸引力的“新生事物”，故更需要职能部门协力加大“AI换脸”技术的法律边界底线等宣传，帮助公民增强守法意识及“AI换脸”技术警惕性。

潜在风险需要个人和服务提供者共同应对

1.不要随意接听陌生电话，防止诈骗人员以电销推广等借口采集发音、语句；

2.避免在个人互联网社交账户上过多暴露个人照片、声音、视频等信息；

3.对外提供人脸照片时需谨慎对待；

4.使用小众软件进行身份认证、网络贷款实名放贷时需提高警惕；

5.不要随意点击陌生链接，链接中的木马程序会窃取用户手机内的照片、监听回传通话内容；

6.开启定位服务、输入身份证号、录入人脸识别信息、指纹识别信息等个人生物信息时，一定要慎之又慎。



此外，各APP网络服务提供者在收集、使用个人信息时应遵循合法、正当、必要、公开的原则，不得收集与其提供的服务无关的个人信息，应当采取技术措施和其他必要措施，确保其收集的个人信息安全，不得主动向外提供，也要防止信息泄露、毁损、丢失。
免责声明：内容来自原创/投稿/公开渠道，纯属作者个人观点，仅供交流学习。转载稿件版权归原作者或机构所有，如有侵权，请联系删除。投稿、合作请联系：12167470@qq.com