AI大模型DeepSeek来袭,机关、单位保密工作如何防止泄密?

新闻

作者：微信文章
来源：综合网络
近年来，从ChatGPT到DeepSeek，人工智能大模型以“狂飙”之势重塑了信息生产和传播的逻辑。AI大模型DeepSeek以其强大的推理能力和高性价比迅速走红，成为全球AI领域的焦点。然而，随着其广泛应用，数据泄露和隐私安全问题也日益凸显，尤其是对机关、单位而言，如何在享受AI技术红利的同时，确保国家秘密和敏感信息的安全，已成为一项紧迫任务。




DeepSeek的崛起与潜在风险
DeepSeek作为一款开源、免费的AI大模型，凭借其卓越的性能和低成本优势，迅速在政务、金融、教育等领域落地应用。然而，其使用过程中也暴露出诸多安全隐患：
数据泄露风险
DeepSeek在处理敏感信息时，可能因数据上传至外部服务器而导致泄密，甚至通过模型输出逆向推导出原始信息。
隐私保护不足
即使对数据进行匿名化处理，仍存在“去匿名化”风险，攻击者可能通过结合其他数据源重新识别出特定信息。
网络攻击威胁
DeepSeek遭DDoS攻击、僵尸网络攻击等，导致服务中断和数据泄露，进一步加剧了安全风险。





机关、单位面临的保密挑战

数据跨境传输风险
使用云端AI工具可能导致敏感数据跨境传输，违反保密规定。
模型训练数据泄露
AI系统可能将输入数据用于模型训练，导致敏感信息被永久记录。
恶意攻击与欺诈
仿冒DeepSeek的钓鱼网站和恶意软件可能诱导用户泄露机密信息。




机关、单位如何防范泄密？严守保密红线
禁止输入涉密信息，严禁在处理公文、内部资料或涉及国家秘密、工作秘密时使用AI工具，避免数据泄露风险。严禁单位（个人）擅自将铁路行业重要敏感信息和关键数据上传至互联网、泄露给外部单位（个人），或者未经批准擅自将包含铁路行业重要敏感信息和关键数据的系统部署在外部单位的行为。

数据脱敏处理，如需使用非敏感业务数据，需事先进行脱敏处理，去除涉密字段。严禁未按国铁集团、集团公司信息化建设和网络安全有关规定要求，违规进行系统（或应用）上线部署的行为。严禁与行车、运输生产相关以及涉及公民个人信息的系统部署在互联网，不准信息应用系统未经批准与互联网相连。
加强审核限制
人工复核机制，AI生成的内容（如报告、政策解读）需经专人审核，确保内容准确性与合规性，避免误导性输出。

责任归属明确，AI生成内容不得作为最终决策依据，需由使用人对其采纳结果负责。

部署本地化安全网关，通过流量审计系统拦截含敏感关键词的数据外传，使用DLP数据防泄漏系统对输出内容进行扫描，阻断涉密内容导出。
明确功能定位
辅助性定位，AI工具仅用于辅助文档起草、信息检索、数据分析等基础性、重复性工作，不可替代核心决策或涉密业务流程。

避免职责替代，涉及行政审批、司法裁决、人事管理等关键环节时，禁止依赖AI工具直接生成结论。
做好隐患防范
定期开展培训，组织信息安全、AI伦理及工具操作培训，强化工作人员的保密意识和鉴别AI错误的能力。

制定风险预案，建立AI误用或数据泄露的应急响应机制，明确检测到可疑传输时的断网、溯源、报告，确保问题及时上报与处置。

AI大模型DeepSeek的崛起

为机关、单位带来了前所未有的效率提升

但也对保密工作提出了更高要求

机关、单位在享受技术红利的同时

筑牢保密防线

确保国家秘密和敏感信息的安全

保密重于泰山，责任在我心间

END

声明

本文仅作分享交流之用，版权归原作者，仅代表作者观点，不代表本公众号立场。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与我们联系，我们将及时更正，联系方式：claudia.cao@everlaw.com.cn