《AI网络信息安全培训(信息技术部·5天30h)》课程大纲
讲师:赖江 发布日期:11-10 浏览量:6
《AI网络信息安全培训(信息技术部·5天30h)》课程大纲
主讲老师:赖江
【课程背景】
大模型技术在企业内的快速普及,使网络信息安全面临全新挑战:Prompt注入、模型越狱、数据投毒、API泄露等模型原生风险,以及员工AI使用不当导致的数据泄密问题,都直接威胁企业内网安全与业务连续性。信息技术部作为企业AI能力建设与安全管控的核心部门,既要用AI提升安全防护效率,又要建立全岗位的AI使用合规体系。本课程围绕大模型底层安全原理、AI安全使用规范、AI网络攻防三大主线,通过5天30小时的系统训练,帮助IT全岗位人员构建“懂原理、会防护、能管控”的AI安全实战能力。
【课程收益】
1. 原理通透:理解大模型训练、推理、部署各层的安全原理,能够独立识别模型原生风险并做风险定级
2. 合规落地:建立IT全岗位AI使用合规红线,掌握数据脱敏与安全使用规范,杜绝数据泄密
3. 防护提效:掌握AI赋能漏洞分析、日志分析、入侵检测的方法,安全运营效率显著提升
4. 攻防实战:识别AI新型攻击手段,具备Prompt注入、AI渗透、AI社工等攻击的防御能力
5. 体系输出:独立输出部门AI安全管理制度、风险清单与常态化演练方案,形成可持续的安全管控体系
【课程目标】
1. 理解大模型底层安全原理,识别模型原生风险;
2. 建立 IT 全岗位 AI 使用合规红线,杜绝数据泄密;
3. 掌握 AI 赋能安全防护能力,提升漏洞、日志、入侵分析效率;
4. 识别 AI 新型攻击手段,具备 Prompt 注入、AI 渗透、AI 社工的防御能力;
5. 能够独立输出部门 AI 安全管理制度、风险清单、常态化演练方案。
【课程特色】
课程名称:AI 网络信息安全实战培训
课程定位:不是科普课,是 IT 岗实战课,围绕大模型原理、AI 安全使用规范、AI 网络攻防,学完可直接用于内网安全、开发管控、安全应急。
【课程对象】
培训对象:信息技术部(运维、网络安全、开发、系统、数据库、IT 支撑)
【课程时间】
总课时:5 天,每天 6h,合计 30h
结构配比:理论 62%,演示 + 实操 38%
【课程大纲】
一、Day1 AI 基础认知与大模型底层安全原理|6h
目标:读懂大模型安全风险根源,会对 AI 工具做风险定级
理论 3.7h
AI 与大模型基础通识(面向 IT 技术人员)
大模型训练层、推理层、部署层核心架构
公有大模型 / 私有化本地部署大模型 / 企业 API 调用模型的安全边界差异
IT 常用 AI 工具分类:代码生成 AI、运维助手 AI、安全分析 AI、文档 AI
大模型原生安全底层原理
训练侧风险:投毒、数据集后门、数据泄露成因
推理侧风险:Prompt 注入、上下文劫持、模型越狱、输出越权原理
部署侧风险:API 接口泄露、权限溢出、日志未脱敏
IT 人员高频 AI 安全误区与真实事故复盘
开发把内网代码粘贴公有大模型导致源码泄露
运维上传服务器配置、数据库信息给 AI 产生泄密
演示 + 实操 2.3h(当日占比 38%)
✅万能公式 1:大模型风险快速判定公式
工具部署方式 + 数据传输路径 + 权限开放范围 = 安全风险等级
演示:公有模型与私有化模型数据流向对比抓包演示
上机实操:对日常在用 AI 工具开展风险定级,填写风险判定表
案例复盘:企业 IT 使用 AI 泄密事件拆解
当日作业:输出《个人 AI 工具基础安全自查清单》
二、Day2 企业 AI 安全规范与 IT 全场景合规落地|6h
目标:建立 IT 岗位 AI 使用标准化流程,杜绝涉密信息输入大模型
理论 3.7h
法律法规:《网络安全法》《数据安全法》《生成式人工智能服务管理暂行办法》对应 AI 场景条款解读
IT 分岗位 AI 使用规范
开发岗:AI 生成代码、脚本、接口文档安全管控
运维岗:日志、配置、资产信息使用 AI 分析的红线
安全岗:AI 漏洞工具、威胁情报检索使用规范
数据岗:敏感数据、用户隐私、业务库数据脱敏要求
Prompt 输入安全管控、数据脱敏原则、操作留痕与审计要求
演示 + 实操 2.3h(当日占比 38%)
✅万能公式 2:IT 场景 AI 合规使用万能公式
涉密数据过滤 + 权限最小化 + 操作留痕 + 输出审核 = 合规安全使用
实操:原始 Prompt 脱敏改造练习(去除 IP、账号、密钥、业务涉密信息)
演示:AI 工具权限配置、访问日志审计查看
模拟演练:识别违规 Prompt、追溯违规操作
当日作业:修订本岗位《AI 合规操作细则》
三、Day3 AI 赋能网络安全正向防护实战|6h
目标:用 AI 赋能传统安全工作,提升漏洞巡检、流量分析、日志审计效率
理论 3.6h
传统网络安全痛点:海量日志、漏洞扫描低效、告警疲劳
AI 安全正向防护核心场景
AI 辅助漏洞挖掘、漏洞定级、修复建议生成
AI 分析网络流量,识别异常访问、内网横向移动
AI 解析海量运维 / 安全日志,提炼安全事件
AI 自动生成巡检报告、整改方案
AI 安全工具与 WAF、IDS、漏洞扫描器协同架构
演示 + 实操 2.4h(当日占比 40%)
✅万能公式 3:AI 安全漏洞排查万能公式
AI 批量扫描 + 人工重点复核 + 风险分级处置 + 闭环记录 = 高效漏洞整改
上机实操:AI 辅助代码漏洞扫描、资产漏洞排查
实操:使用 AI 解析安全日志,定位异常行为
场景实战:模拟企业内网安全巡检全流程(AI 赋能)
当日作业:完成一份 AI 辅助内网安全巡检实战报告
四、Day4 AI 新型网络攻防技术与对抗实战|6h
目标:掌握 AI 驱动的新型攻击手段,具备检测、拦截、应急防御能力
理论 3.6h
传统攻防 vs AI 驱动新型攻防差异
主流 AI 攻击技术原理
Prompt 注入、模型越狱、间接提示注入
AI 自动化端口扫描、弱口令爆破、内网渗透脚本生成
AI 生成恶意代码、免杀、钓鱼邮件、社工话术
深度伪造(AI 换脸、AI 仿声)社会工程学攻击
三层防御体系:模型层、接口层、应用层防御策略
演示 + 实操 2.4h(当日占比 40%)
✅万能公式 4:AI 新型攻击防御万能公式
攻击特征识别 + 接口权限拦截 + Prompt 过滤 + 实时监测 = 攻防防御闭环
攻防实操 1:模拟 Prompt 注入攻击,配置 Prompt 过滤防护
攻防实操 2:识别 AI 生成恶意代码、钓鱼文本
攻防实操 3:模拟 AI 自动化渗透行为检测与拦截
当日作业:梳理本单位系统 AI 攻防风险点,输出风险清单
五、Day5 综合实操演练 + 方案落地 + 考核复盘|6h
目标:综合应用全部知识,输出部门可落地 AI 安全方案,完成结业考核
理论 3.6h
前 4 天核心知识点复盘、高频风险难点汇总
企业 AI 网络安全体系搭建方法论
AI 安全常态化机制:巡检、风险评估、红蓝演练、定期审计
演示 + 实操 2.4h(当日占比 40%)
分组红蓝对抗综合演练:模拟内网遭遇 AI 驱动渗透攻击,团队完成识别、排查、阻断、整改全流程
落地实操:套用 4 套万能公式,撰写《信息技术部 AI 网络安全落地执行方案》
一对一答疑:学员岗位场景问题现场调试优化
结业考核 + 复盘
理论笔试:原理、合规、攻防选择题 + 简答题
实操考核:Prompt 注入防御、漏洞排查、风险定级现场操作
课程总结、答疑、后续常态化学习指引