《生成式AI办公安全与风险管控》

《别让AI成为企业的“数字后门”》——生成式AI办公安全与风险管控

主讲：孙灵平老师

【课程背景】

“AI提效，人人喊好”，但很少有人意识到：一次随意的粘贴，可能让核心数据流入公有模型；一句无心的提问，可能触发恶意指令注入；一个未授权的插件，可能成为黑客的跳板。某金融公司员工用公共AI写周报，意外泄露客户交易明细；某制造企业工程师上传图纸到免费AI工具，导致专利被反向提取……这些不是危言耸听，而是正在发生的现实。企业在拥抱生成式AI时，普遍面临以下困惑：

员工该不该用AI？哪些场景能用，哪些绝对不能碰？

公网AI vs 企业私有AI，安全边界如何划分？

如何防止AI“记住”敏感信息并被恶意提取？

管理层想推AI提效，IT部门却担心失控，如何平衡？

现有安全策略能否覆盖AI带来的新风险？

本课程聚焦办公场景下的生成式AI使用，从真实泄密案例出发，结合《生成式人工智能服务管理暂行办法》及企业数据治理实践，系统构建“可用、可控、可审计”的AI办公安全防线，帮助管理者在效率与安全之间找到最佳平衡点。

【课程收益】

掌握生成式AI在办公中的5大高危使用场景，识别潜在泄密行为

运用“三不原则”快速判断员工AI操作是否合规

部署企业级AI使用白名单与审批流程，实现事前管控

配置DLP+日志审计组合策略，做到事中拦截、事后追溯

使用“AI安全自查清单”开展部门级风险排查

建立员工AI使用行为规范，降低人为失误导致的安全事件

理解《生成式AI服务管理暂行办法》关键条款，避免法律合规风险

【课程对象】企业员工、IT管理员、数据安全负责人、合规管理人员

【课程时间】0.5天（6小时/天）

【课程大纲】

一、员工用AI办公的场景及典型风限案例

1. 智能写作与内容生成

撰写邮件/公文/报告

会议纪要整理营销文案创作：快速生成产品介绍、社交媒体推文、广告语、活动方案等

行政、市场、HR、项目经理。

2、信息检索与知识管理

内部知识库问答

跨文档摘要

政策/制度解读

法务、合规、新员工、咨询顾问

3、数据分析与可视化

Excel/表格智能分析

业务洞察生成

报表自动化

运营、财务、销售管理

4、客户服务与沟通辅助

客服话术生成：

模拟客户对话训练

客服、技术支持

5、流程自动化

自动填单

发票识别与录入

日程智能安排

财务、采购、秘书、IT运维

6、安全合规辅助

敏感信息检测

合规性检查

钓鱼邮件识别

全员如研发、金融、医疗等监管要求高的行业

案例：某互联网公司员工用ChatGPT写产品方案，致核心功能外泄

模型：AI办公安全风险三角模型（数据-模型-人）

二、核心安全风险深度解析

1、数据安全风险

训练数据污染与推理数据泄露

敏感信息识别与自动脱敏机制

案例：某银行员工上传信贷审批规则，被AI用于生成欺诈话术

工具：敏感信息自动脱敏检查清单（含关键词库示例）

2. 模型滥用风险

提示词注入

越狱攻击与对抗样本

3、合规与伦理风险

内容违法：涉政、暴恐、歧视

版权侵权：AI生成内容归属问题

违反《生成式AI服务管理暂行办法》规定（实名制、内容过滤）

工具：AI合规自评表（含10项关键检查点）

三、如何构建企业级AI办公安全防线？

1、事前预防

建立AI使用白名单，仅允许接入企业授权平台

部署本地化/私有AI化模型

2、 事中控制

部署DLP扫描+ 网络隔离 + 行为监控

启用AI使用 审批流程，尤其涉及财务、人事数据、企业核心数据

3、事后审计

日志留存 ：记录用户、时间、输入内容、输出结果

定期红队测试：模拟攻击，验证防护有效性

案例：某央企通过私有化通义模型实现安全AI办公模型：AI安全管控四象限（允许/禁止/审批/审计）

四、员工行为规范

1、可以做

使用企业部署的有AI功能的文档处理程序处理内部文档

对非敏感数据进行AI辅助写作

2、禁止做

将客户数据、源代码、财报粘贴至公网AI聊天框

使用个人帐号登录AI工具处理工作文件

下载不明来源的AI插件或扩展程序

工具：《AI办公安全十不准》宣传海报模板（可直接下发

五、使用安全可控的AI环境

1.通义大模型

私有部署或VPC内调用，数据不现域

场景：开发AI应用、集成到内部系统

云电脑：讨论：如何有效识别简历注水的情况？

2. 云电脑

在云桌面内直接使用AI，受策略管控（企业管理员开通”AI办公”策略）

场景：员工日常办公、写作、分析