AI“狂飙时代”,你的“秘密”是否安全?

新闻

作者：微信文章






AI“狂飙时代”你的“秘密”是否安全

从一键生成方案到“以假乱真”的换脸视频，人工智能正以“开挂”模式重塑办公与生活。但当高科技公司员工将商业机密“喂”给ChatGPT，当涉密人员将涉密材料输入AI生成文章，当不法分子用换脸技术攻破人脸认证——AI的“智能”正在成为刺向国家秘密安全和个人信息安全的“暗箭”。我们既要拥抱技术红利，更要警惕：每一次“省时省力”的输入，都可能成为泄密的导火索。

真实案例：泄密事件离我们有多近？




01
涉密信息被“云共享”
AI写作致泄密

2024年8月，国安部发布紧急通报，部分涉密人员在起草涉密材料时，为节省工作时间，违规将涉密素材和涉密文件内容输入AI写作小程序生成文章，造成国家秘密泄露。事实上，AI小程序会自动收集用户输入的信息内容以供自主学习，这些信息一旦进入数据库就很容易被境外间谍情报机关窃取，危害国家安全和利益。
AI科研致泄密

某科研机构一研究人员保密意识淡薄，为快速完成研究报告，擅自使用一款流行的AI写作应用软件辅助办公，将部分核心数据及实验成果上传到该应用，导致该研究报告中的部分涉密敏感信息被泄露，在网上流传，给该科研机构造成经济损失，也给国家利益带来损害。事件发生后，该研究人员受到严肃处理。
科技公司“AI泄密门”

2023年3月，三星公司在引入ChatGPT后，短时间内便曝出多起机密资料外泄事件。经调查，泄密事件是由三星员工直接将企业机密信息以提问的方式输入到ChatGPT中所引起的，该做法导致三星公司半导体设备测量资料、源代码、产品良率等机密内容进入学习数据库，内部信息瞬间外泄，且无法收回。


02
脸部特征被“不法利用”
“AI换脸”篡改系统数据牟利被判刑

2024年7月，一宗使用“AI换脸”技术破解平台认证非法获取计算机信息系统数据案在广州南沙宣判。被告人利用“AI换脸”技术，将个人肖像照片加工成人脸识别数据，伪造被识别人眨眼、张嘴、点头等组合动作视频，顺利通过人脸实名认证，登录某服务平台系统个人账户，将账户里的个人信息出售给他人以牟取非法利益。法院一审判处5名被告有期徒刑三年八个月至三年三个月不等，并处罚金十八万元至四万元不等，二审维持原判。
利用AI技术侵犯公民个人信息案

2024年9月，杭州市公安局网警通报了一起典型案例。此案中，犯罪团伙在境外网络承接定向出售国内头部平台用户数据业务，使用境外多模态专用大模型，利用AI换脸技术，简单输入照片并发送文字指令，就能生成普通人脸认证功能所需要的人像视频，突破平台人脸认证，强制登录他人账号，获取大量受害人私人数据和敏感信息并出售获利。

隐患分析
· 生成式人工智能高度依托互联网、大数据、云计算平台，一旦输入涉密敏感信息，就会转化为大语言模型的模型参数，数据处理、存储、运算、传输等各环节均面临泄密风险。大模型数据挖掘功能可基于海量原始数据进行多维推理和关联分析，哪怕只是截取涉密文件片段，也存在被攻击窃取或经关联汇聚后泄密的风险。
· “AI换脸”技术暴露出不容忽视的安全隐患，已经成为电信网络诈骗新手段新风险。人脸识别技术、语音识别技术等，都可能被用于非法收集和识别个人信息，侵犯公民隐私权。
保密提醒
· 涉密不上网，上网不涉密：机关、单位工作人员使用AI办公时须绷紧保密之弦，使用合法合规的国产大模型，强化风险意识，规范使用流程，不得将涉密文件、图片、音频、视频等信息，以拍照、输入、复制以及其他任何形式，部分或者全部使用生成式人工智能工具进行处理，坚决避免AI办公泄密。
· 加强个人隐私保护：不随意上传高清正脸照至非官方平台；不随意参与“AI换脸挑战”“AI写真生成”等活动；不随意向陌生人提供人脸动态视频。

法规链接
《中华人民共和国保守国家秘密法》第三十一条规定，任何组织和个人不得使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。
《网络数据安全管理条例》第十九条明确要求，提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险。



来源：西安保密