实战砺剑 AI 安全,启幕人才培养新篇 —— 关保联盟首期AI攻击与测试培训圆满收官

新闻

作者：微信文章
为贯彻落实党中央、国务院关于持续推进“人工智能+”行动的决策部署，推动人工智能赋能关键基础设施领域网络安全，关保联盟启动AI安全专业技能培养计划，普及AI安全知识，培养实战能力。



在此背景下，9月18日至20日关保联盟“AI安全攻击与测试课程第一期班”应运而生，20名来自各行业的网络安全从业者完成了为期3天的实战培训，共同探索AI时代的安全攻防之道。



本次培训以“从理论到实战，从大模型安全到AI应用安全”为核心目标，聚焦“解决企业真实安全问题”，打造“三大特色”：

01

顶尖专家阵容

一线实战派+行业权威

本次培训邀请的讲师均为AI安全领域的实战型权威，覆盖“大模型安全、AI应用攻防、安全评估”全链条；

洺熙：《AI迷思录》作者、连续两届Claude与OpenAI全球红队测试通关者；

刘洋：云起无垠安全研究员、SecGPT2.0核心贡献者；

布衣无涯：十二年攻防经验，协助近千家单位处理勒索应急 ；

宁大叔小怪兽：ChaMd5战队AI组负责人、DataCon2024大数据安全分析竞赛-AI安全赛道二等奖获得者。

02

六大模块设计

覆盖AI安全全生命周期

课程设置六大核心模块，精准对接企业“从大模型选型到AI应用上线前测试”中的AI漏洞、合规评测的真实需求：

模块一：大模型赋能应用场景实践

以 “大模型赋能应用场景” 为核心，涵盖人工智能发展史与核心概念、大模型训练全流程技术（Transformer 架构、数据收集格式化、分布式训练、Fine-tuning）及提示词设计实操，同时融入威胁情报知识检索增强、国内首个网络安全开源大模型 SecGPT 开发等安全场景应用内容。

模块二：大模型安全攻防实战

以“大模型安全攻防实战” 为核心，涵盖大模型全生命周期风险图谱，围绕模型算法安全（对抗样本）、数据安全（数据投毒与防范）、系统安全（权限管理、硬件后门、开发供应链安全）及后门植入与异常输出等核心风险展开实战讲解。

模块三：AI 应用开发与实践

以 “AI 应用开发与实战” 为核心，围绕安全智能体多场景（智能威胁情报、恶意软件分析等）展开介绍，通过 Dify 平台讲解安全智能体从 0 到 1 开发，并开展智能客服系统、威胁情报安全知识库、流量检测 workflow、信息收集智能体等实战实践。

模块四：AI 应用攻防实战

以 “AI 应用攻防实战” 为核心，围绕 AI 应用全栈风险图谱（硬件 - 软件 - 服务 - 模型）、LLM OWASP Top10 解析，讲解攻击测试流程与方法，聚焦 AI 应用集成 / 智能体 / 基础设施等风险实战，并通过知识库投毒、AI 贷款过度代理等靶场训练强化攻防能力。

模块五：人工智能安全评估技术

聚焦 “人工智能安全评估技术”，涵盖评估依据 TC260 解读、AI 安全检测技术体系（组件/服务/代码/模型等测试方法）、Promptfoo/Garak 等实战工具使用，以及对抗样本生成、泛化数据集、输出过滤与访问控制等核心评估技术。

模块六：人工智能安全综合实战

围绕 “人工智能安全综合实战”，通过本地部署模型 / 多智能体手工测试、工具化评估检测、评测报告撰写、运行时持续监测与日志分析等环节，覆盖从测试到防御的全流程，最终聚焦攻击防御与缓解策略的设计与落地。

03

严考严训

从“学”到“用”的闭环检验

为确保培训“不走过场”，本次课程采用“理论讲解+实操演练+结业考核”的三维模式：每天课程配套2小时以上的实操练习（如“大模型Prompt越狱测试”“AI应用漏洞挖掘”），让学员即时将理论转化为技能。

第三天晚上19:00-21:00，更是以“理论闭卷考试+实操场景模拟”的形式，全面检验学员对“AI安全攻击流程” “AI系统评估方法”的掌握程度，确保“学有所成、成有所用”。





本次培训的“实战导向”得到了学员的高度认可，课上同学们注意力非常集中，训练过程非常顺畅。







学员反馈：终于摸到了AI 安全“实战门”

某军队院校在读博士孙同学



河南某测评机构测评工程师权同学



某上市安全公司安全运营总监李同学



中国某测评机构密码研究姚同学



北京某测评机构红队专家王同学



同学们课上反馈的AI基础知识薄弱或安全基础薄弱的问题，后续联盟会通过沙龙、录播课程、竞赛活动等为同学们扩展知识面和知识深度。

未来可期：AI 安全人才培养再启新篇

作为关保联盟在AI安全人才培养领域的首次探索，本次培训班的圆满结束，标志着联盟在“AI安全生态构建”中迈出了关键一步。

关保联盟秘书长黄一玲女士表示： AI安全的核心是“人”。未来，联盟将从三个方向深化AI安全人才培养：

1、进阶式课程

持续推出“AI安全攻击与测试实战班”（针对安全从业者、开发人员、运维人员，聚焦‘发现大模型及模型应用的0day漏洞和安全风险’）、尽快推出“AI安全运营与防御实战班”（针对企业安全负责人、安全专岗、开发人员，讲解AI安全的防护建设、日常运营与应急处置）。

2、行业定制

针对金融、能源、政府等不同行业，推出“行业专属AI安全培训”，比如金融AI信贷系统安全、能源AI运维系统安全和“技术专业AI安全培训”，如AI赋能CTF竞赛培训、AI赋能勒索培训、AI赋能数据安全培训等。

3、生态联动

与企业合作推出“实训基地”，让学员直接参与企业真实AI项目的安全测试，实现“培训→实践→就业”的闭环。 与靶场合作推出“AI安全竞赛”，让学员在攻防靶场沉浸式实战，在创新靶场找中验证创新思路，达成“培训-选拔-应用”能力落地。

AI时代的安全竞争，本质是“人才的竞争”。关保联盟首期AI安全攻防与测试培训班的结束，正是行业“AI安全人才培养”的新起点——未来，更多“懂AI技术、会安全攻防”的复合型人才将从这里走出，为金融、能源等关键领域的AI应用筑牢“安全防线”，为数字经济的健康发展保驾护航。

近期AI安全课程开课计划，欢迎报名参训



课程报名及咨询

关小元  

手机号：13391615952

邮   箱：guanxiaoyuan@cnciipa.com

乔彩玉  

手机号：15011292994

邮   箱：qiaocaiyu@cnciipa.com

扫码报名



相关阅读

关于举办“AI安全攻防与测试”第二期培训班的通知

关于举办第三期“2025年网络攻防专项行动总结提升暨蓝队防守能力强      化培训”的通知

关于举办“关键信息基础设施安全保护人员专业能力认证”培训班的通知