AI技术赋能下的数据安全实践与能力升级策略分析

多客科技

作者：微信文章


作者

银联商务支付股份有限公司助理总裁 冀乃庚



银联商务支付股份有限公司助理总裁 冀乃庚

支付数据承载着消费者、商户及支付机构的核心要素，其安全性直接关乎到多方信任体系与行业生态的稳定。随着安全威胁与挑战的日益严峻，AI大模型为行业提供了新的发展机遇和动能。作为支付行业“国家队”，银联商务支付股份有限公司（以下简称“银联商务”）严格遵循国家法律法规，构建覆盖数据全生命周期的安全防护体系，为业务发展筑牢坚实的安全屏障。同时，银联商务一直紧跟科技发展浪潮，积极拥抱AI技术，成功打造出银商天言、银商天码、银商天测和银商天数四大AI产品，以科技创新驱动业务升级。

一、AI技术在数据安全中的应用实践

在数据分类分级、数据安全合规风险评估等关键工作中，银联商务以AI技术赋能，通过高效、精准的自动化能力，显著提升数据安全治理效能。

1. 数据分类分级自动化

数据分类分级作为数据安全体系的基石，是实施差异化安全防护策略的核心依据。通过对数据敏感程度进行科学划分，针对不同等级数据制定适配的安全控制措施，能够有效实现数据共享效率与安全保护的动态平衡。

在AI大模型技术赋能下，银联商务构建了智能化数据分类分级体系：依托大模型可自动解析支付数据的业务语义、字段关联及上下文逻辑，精准识别敏感数据特征，自动匹配设定的数据分类分级规则，显著提升数据敏感等级判定效率。

通过数据分类分级系统对全量数据资产进行自动化探测与智能梳理，结合AI大模型的多维度特征分析能力，实现交易数据、客户信息等多类型数据的分级分类标签自动化识别。这一AI自动化数据分类分级体系，不仅大幅降低人工标注成本与误判风险，更通过AI大模型的持续学习能力，自动适配监管政策变化与业务场景迭代，确保数据分类分级标准的动态有效性。

2. 针对非结构化文本的安全合规风险分析

数据安全管理中，需对大量文本（如数据安全协议、隐私政策、开发文档等）进行合规审查。如何高效识别风险并及时提供评估建议，是安全管理者面临的难题。银联商务正积极布局基于AI大模型的技术应用，将《数据安全与个人信息保护影响评估指南》等内部规范解构为结构化规则集，综合运用语义解析树、RAG知识库等技术，探索将抽象合规要求转化为可执行算法逻辑的路径，力求实现监管要求与企业实践的深度融合。

在技术架构上，银联商务基于RAG技术，开展对项目立项书、合同条款、隐私政策等非结构化文档的深度语义理解研究。通过实体召回，尝试精准定位文档中的个人敏感信息，并结合知识图谱技术，对敏感数据使用场景、共享范围及存储要求的合规性分析进行探索；同时，运用AI大模型逻辑推理引擎，针对权责条款中可能存在的模糊表述、权责不对等问题进行识别验证。

3. 基于多维日志的数据安全风险监测

在数据安全治理的事中监测环节，银联商务已搭建实时数据安全风险监测平台，整合多源操作日志，依托安全信息与事件管理（SIEM）系统，实时捕捉未经授权的账户变更、高频异常访问等风险行为，触发告警并联动应急响应机制，快速阻断中高风险事件，有效遏制安全风险的扩散。

为进一步提升监测能力，银联商务正推进平台智能化升级，引入AI大模型构建“人员—设备—数据—操作”四维关联模型。该模型基于海量历史安全事件与业务操作数据训练，具备深度语义理解与复杂关系推理能力，可精准识别伪装成常规业务流程的“潜伏式攻击”。检测到高危风险时，系统将自动联动零信任访问控制，切断异常会话，形成从风险识别到处置的自动化闭环。

二、AI技术赋能下的安全治理挑战

AI技术为数据安全治理带来新机遇的同时，也引入了新风险，大模型面临数据泄露、模型滥用及内容合规等挑战。随着智能体的广泛应用，自主决策机制滥用、多智能体交互安全隐患以及物理环境风险等问题进一步加剧安全威胁。

1. AI应用失控、治理缺位下的数据泄露风险

在生成式AI快速渗透办公场景的当下，若企业缺乏有效的安全治理架构与明确的使用规范，员工在外部使用AI的行为或将成为数据安全的“潘多拉魔盒”。当员工为追求便捷，在个人设备或未经审核的第三方平台上使用生成式AI工具时，极易在无意识中埋下数据泄露隐患。例如，在撰写报告时将包含客户隐私、商业机密或技术专利的原始数据直接投喂给AI，这些敏感信息可能未经脱敏便流入外部服务器，甚至被用于模型训练，造成不可逆的数据扩散。

外部AI工具的安全漏洞与权限失控风险同样不容忽视。部分员工绕过企业安全审查，擅自接入集成AI功能的插件或软件，这些工具可能暗藏恶意代码，通过“供应链攻击”盗取终端数据。一旦员工使用企业账号登录外部AI服务，权限凭证的泄露更可能为黑客打开入侵内部系统的大门，造成从个体到企业安全防线的连锁崩塌。

2. AI应用权限管理中的安全挑战

在AI赋能的数据安全管理框架中，权限管理作为保障数据安全的关键环节，其复杂性和重要性随着AI技术的深度融合而显著增加，尤其是在处理诸如机密发文内容、人力相关信息以及根据角色区分数据访问权限等方面，一旦权限配置不当或存在漏洞，极可能导致未授权访问、数据泄露等严重后果，进而使企业利益与个人隐私受到侵害。

同时，随着AI应用能力的不断提升以及在跨组织协同场景中的不断拓展，权限管理的边界愈发模糊。在设计和实施AI应用时，不仅要考虑传统的身份验证和访问控制机制，还需综合考虑AI自身的应用场景，细化权限管理的模式，建立数据全链路追溯机制，确保敏感数据在存储、查询、导出等环节流转时可审计、可管控。

3. AI应用内容输出的安全挑战

AI大模型的“幻觉”现象源于其概率生成特性，当训练数据覆盖不足或存在噪声时，模型会生成看似合理但与事实相悖的内容。更严重的是，在处理包含敏感信息的训练数据时，模型可能通过记忆效应意外泄露敏感数据。

一方面，用户可利用模型的“提示工程”漏洞，通过精心设计的诱导性提问，迫使模型输出敏感数据。例如，在用户构造的包含虚假身份信息在内的复杂场景提问中，模型可能基于错误的关联逻辑，输出真实用户身份、地址、联系方式等个人敏感数据。

另一方面，在AI应用页面交互场景中，敏感数据泄露风险进一步加剧。用户在输入框提交问题后，若问题关键词与训练数据中的敏感信息存在关联，大模型可能将其转化为文本形式直接展示在输出框中。例如，当用户在AI问数类应用中询问“查看xx地区近一个月的交易明细”时，若大模型训练数据中交易记录脱敏处理不当，应用页面可能直接展示完整的交易流水，其中包含交易银行卡号等敏感信息。

三、面向AI时代的数据安全能力升级策略分析

1.AI场景建章立制：构建AI安全治理架构，划定AI使用边界

企业制定生成式AI使用管理规范需以数据安全为核心，构建严密的全流程管控体系。规范要求企业基于数据分类分级结果，严格界定可输入AI平台的数据范围。包括未公开的财务数据等，身份信息、基本资料信息等个人敏感数据，以及自研算法代码等技术机密在内的核心商业资产，均应被明确列为禁止向外部AI平台传输的内容，确保在数据不泄露的前提下使用。

针对第三方工具接入，制定严苛的准入标准和全周期管理流程规范。第三方AI工具必须通过安全团队的技术评估，包括数据加密能力、漏洞修复机制、隐私政策合规性等多维度审查。同时，明确要求所有AI交互记录必须完整留存，包括输入数据、AI输出内容、操作时间、操作人员等信息，将这些日志作为重要审计依据，确保所有AI使用行为可追溯、可核查，实现对员工AI使用行为的全生命周期严格管控。

2.AI时代安全防御升级：从单点防护到系统化防护体系构建

在AI驱动的新型网络威胁浪潮下，传统单点防御模式已难以招架复杂攻击，企业急需构建系统化安全防护体系，实现从被动应对到主动防御的转型。

在AI应用权限管理方面，针对不同的AI应用场景，构建基于细粒度的动态权限管理体系。一方面，利用基于角色的访问控制（RBAC）模型，为不同岗位、职级的用户分配对应角色（如数据开发者、业务分析师、业务管理者等），赋予其该角色常规的数据访问与操作权限。在此之上，引入基于属性的访问控制（ABAC）模型，根据数据敏感度、用户操作环境、任务紧急程度等属性，进行更细粒度的权限控制，而对于涉及商业机密的数据，仅允许特定区域IP、特定时间段内的授权用户访问。另一方面，自动记录所有权限操作日志，包括权限分配、修改、回收等行为，并对日志进行深度挖掘与分析，快速发现权限管理中的违规操作与潜在风险，定期生成权限使用报告，评估权限配置的合理性与有效性。

在AI应用内容输出安全方面，需从数据源头治理及应用环节管控等多维度入手。在数据预处理阶段，应严格筛选数据集，通过去噪、脱敏、匿名化等技术消除敏感信息，确保数据覆盖全面且质量可靠；针对“提示工程”漏洞，需建立动态风险识别机制，利用自然语言处理技术对用户输入的内容进行实时语义分析，识别诱导性提问并触发阻断策略；在应用交互层面，部署严格的输出过滤与敏感数据检测系统，对模型生成内容进行实时审查，结合语义理解与规则匹配技术，自动屏蔽或替换敏感信息，同时建立审计日志，对数据调用与输出进行全流程记录与追溯，全方位筑牢数据安全防线。

此外，在AI应用全生命周期的防护网络方面，可在模型使用环节部署API安全网关，对每一次模型调用请求进行严格的身份验证和流量过滤，防止恶意用户发起数据投毒或模型窃取攻击。同时，利用AI技术对非结构化数据进行实时扫描，自动识别敏感信息并进行脱敏处理，确保业务开展过程中的数据安全。

3.AI攻防新战场：安全技术人员的能力重构与转型

在AI重塑网络攻防格局的新时代，安全技术人员正面临前所未有的能力考验。安全技术人员需从“网络防御者”转型为“AI安全专家”，深入理解AI模型架构、算法逻辑及新型威胁原理，开发基于机器学习的威胁预测模型，探索隐私计算、同态加密等技术应用；通过持续培训、红蓝对抗演练及产学研合作，保持技术领先，构筑智能化、主动式防御体系。

安全团队还需将AI技术转化为防御利器，通过构建基于机器学习的威胁预测模型，对攻击趋势进行动态推演。例如，利用时序数据分析预测勒索软件爆发规律，或通过自然语言处理技术解析暗网论坛情报，提前识别潜在攻击意图。此外，安全技术人员需深度参与AI安全研发，探索隐私计算、同态加密等隐私增强技术在数据安全场景的应用，设计抵御模型窃取、对抗样本攻击的防护方案。这要求其具备跨学科知识融合能力，将安全知识与AI技术深度结合。

未来，银联商务将继续深化数据安全与客户信息保护实践，依托AI技术创新和管理能力升级，构筑更坚实的安全屏障。银联商务致力于以实际行动履行社会责任，为客户提供安全、可信的服务环境，为数字经济健康发展贡献力量。

本文刊于《中国信用卡》2025年第6期

责任编辑：康超



1985年3月，中国银行发行“中银卡”，标志着中国信用卡行业的起步。为迎接中国信用卡行业诞生40周年，《中国信用卡》开启新一轮征文活动，期待广大读者和作者围绕信用卡行业发展实践和探索积极分享智慧见解，在信用卡行业转型发展的关键期，共同为推动行业可持续发展建言献策。

稿件要求：原创首发，忌一稿多投，文章具有专业性、创新性、前瞻性，3000～6000字，投稿需注明联系方式。

投稿邮箱：ccc@fcc.com.cn