很多企业在上大模型客服、知识库问答、智能体办公自动化后,会遇到一类问题:算法要备案谁写材料?训练数据违规谁审?智能体调工具越权谁管?生成内容标识怎么落地?本文从企业合规角度说清楚。
一、新治理框架:从“回答”到“执行”
《人工智能安全治理框架3.0》延续“风险分类、技术应对、综合治理”逻辑,重点新增智能体风险管理。AI从“回答问题”走向“执行任务”后,风险不再只是说错话:
智能体身份与权限滥用
推理规划失效
工具调用执行越权
长期记忆被污染
自主化网络攻击
GEO投毒与内容传播风险
框架还提出安全护栏、服务降级、沙箱监管、全生命周期管控。治理重点,已经从“管内容”走向“管行为”。
二、这些风险对应AISO哪些能力

数据投毒/知识库污染:课程讲训练数据、网页抓取、知识库、记忆环节风险识别与管控
对抗样本/提示注入:讲输入扰动与提示词越权,对应输入校验、沙箱测试、输出过滤
模型窃取/深度伪造/隐私推断:讲模型资产保护、音视频鉴别、训练数据最小化与脱敏
智能体安全:讲唯一身份、最小权限、工具调用审批、人工兜底与审计日志
自主化攻击与AI-SOC:讲AI赋能攻击与AI赋能防御,建立智能运营能力
合规落地:讲训练数据合规、算法备案、安全评估、生成内容标识
三、企业谁该考AISO
建议以下岗位至少培养1—2名牵头人:
信息安全负责人
数据合规经理
算法/平台技术负责人
AI产品经理
内控审计、法务合规
金融、通信、互联网、政务、医疗等已用大模型或智能体的单位,AISO持证人员可统筹AI风险台账、备案材料、评估整改和应急演练。课程对标ISO/IEC 38507、42001、42005,也结合国内治理框架,方便把标准翻译成内部制度。
四、培训与报考
4天线上、六大模块
闭卷考试满分120/84合格
培训费6700元、考试费2100元
证书CCRC颁发、官网可查、3年有效
11月班:11月7、8、14、15日培训,11月16日考试
企业可把AISO作为AI项目合规上岗培训:先学框架,再对照自有大模型/智能体做权限、数据、内容、应急四项整改。
企业派人或做内训定制,可先发岗位清单做适配建议。
招生顾问:马老师
电话:13391509126
