人工智能安全治理框架
《人工智能安全治理框架》1.0版，作为最新发布的基础性和框架性技术指南，为人工智能治理提供了清晰的指导。这份文件不仅阐明了治理原则，还全面梳理了安全风险，并从技术和综合治理两个层面提出了对应的解决方案。此外，该框架针对不同角色提供了详尽的安全开发应用指引。在ChatGPT、Sora、Bard等AIGC产品风靡全球的背景下，人工智能领域既迎来了前所未有的发展机遇，也面临诸多风险和挑战。
因此，加快人工智能的立法、行业监管和治理已成为国内亟待解决的问题。2024年9月9日，全国网络安全标准化技术委员会正式发布了《人工智能安全治理框架》1.0版，简称《治理框架》。这份文件对于人工智能领域具有里程碑意义。本文旨在深入解读该框架的要点，帮助我们全面理解和把握国内人工智能领域的治理原则、安全风险及其应对措施。
《治理框架》明确提出了四大原则
《治理框架》明确了人工智能安全治理的四大原则：“包容审慎、确保安全”，“风险导向、敏捷治理”，“技管结合、协同应对”以及“开放合作、共治共享”。这些原则旨在平衡人工智能的创新发展与安全风险防范，推动形成全球认可的人工智能治理体系。
一、《治理框架》的风险、措施与指引层次分明
《治理框架》遵循“问题导向、措施跟进”的逻辑。它首先系统地梳理了人工智能技术在各个应用环节中可能遭遇的安全风险；接着，针对这些风险，从技术和治理两个层面提出相应的防范和应对措施；最后，为各类角色（如模型算法研发者、AI服务提供商、关键领域用户及普通公众）在人工智能开发应用过程中的安全行为提供详细的操作指南。整份文件层次清晰，架构严谨，为读者提供了明确的风险管理和解决方案查找路径。
二、《治理框架》对人工智能安全风险进行了全面梳理
在《治理框架》中，人工智能的安全风险被系统地划分为内生安全风险和应用安全风险两大类。这种分类方式有助于更全面地识别和应对各类风险，为人工智能的开发和应用提供有力保障。
内生安全风险中的模型算法安全风险
《治理框架》特别强调了AI模型算法的可靠性问题，列出了一系列相关风险：模型算法可解释性差、潜在的偏见和歧视、鲁棒性不足、数据被窃取或篡改，以及对抗性攻击等。由于模型算法由人为设计和干预，其内部运行逻辑的复杂性、训练数据中可能存在的个人偏见或歧视，以及深度神经网络的大规模非线性特性，都可能引发一系列安全问题。
此外，核心算法信息的泄露或篡改，以及来自攻击者的误导性数据，都可能导致AI模型输出结果的不确定性和难以预测性，从而引发严重后果。
内生安全风险中的数据安全风险
2024年2月29日，网安标委颁布的TC260-003《生成式人工智能服务安全基本要求》中，对“语料安全”进行了详细规范。语料即训练数据，是模型训练的基石，涵盖预训练和优化训练中的所有输入数据。基于此，该规范进一步强调了人工智能模型在输入和输出端的数据安全风险。
内生安全风险中的系统安全风险
系统安全风险部分详细探讨了人工智能模型和产品的潜在缺陷、后门攻击风险、算力安全威胁，以及供应链安全挑战。同时，这部分还对产品研发流程、算力基础设施资源及涉及国内外宏观供应链的多个环节进行了全面的安全风险梳理。
应用安全风险
该部分深入剖析了人工智能在多个领域中的安全风险，包括网络域、现实域、认知域及伦理域。特别强调了信息内容安全风险和不当使用导致的信息泄露风险等关键问题。信息内容安全的风险点涵盖了AI生成或合成内容的真实性问题、可能引发的歧视偏见、隐私泄露、侵权行为以及输出违法有害内容等。这些风险点对个人和社会都可能产生深远影响。
《治理框架》的出台，为我国人工智能领域的发展提供了坚实的保障。它不仅明确了治理原则，还全面梳理了安全风险，提出了相应的解决方案，为各类角色在人工智能开发应用过程中提供了详细的操作指南。这对于推动我国人工智能领域的健康发展，维护社会公共利益，具有重要的现实意义和深远的历史影响。
三、提出具体的技术应对措施与综合治理策略
为应对上述安全风险，《治理框架》建议模型算法的研发者、服务提供者及系统使用者等多方在训练数据、算力设施、模型算法、产品服务及应用场景等多个层面共同采取有效的技术措施加强防范。
应对模型算法安全风险
《治理框架》建议采取一系列技术措施，包括明确模型算法的输入输出、建立安全开发规范、实施严格的数据验证和测试等。
应对数据安全风险
该框架提出的技术应对措施主要集中于个人信息保护和知识产权保护，完善数据处理规则和措施，确保数据的安全性和合规性。
防范系统安全风险
《治理框架》建议的技术措施涵盖适当公开风险信息、标识关键输出内容、强化风险识别与检测、提升运维能力及关注供应链安全等多个方面。
应用安全方面的关键技术措施
框架提出了建立安全防护机制、设立数据护栏、明确服务提供边界及筛选和判别不真实或偏见歧视的数据等关键技术措施。
综合治理层面的措施
《治理框架》从制度、管理、应急响应、监督机制、人才培养及国际交流合作等多个维度提供了宏观的综合治理制度规范。
此外，《治理框架》还为不同角色制定了详细的安全开发应用指引。这些指引针对模型算法研发者、AI服务提供者、重点领域使用者及社会公众等不同角色，提供了处理或使用人工智能产品和服务时的具体安全指南。
四、总结
在《生成式人工智能服务安全基本要求》发布后不久，新推出的《治理框架》为我们提供了关于国内人工智能产品及服务所面临安全风险的全面概览，并详细说明了相应的技术应对和综合治理策略。这份技术指南对于人工智能的研发者、服务提供者及使用者具有极高的参考价值。通过仔细研读这份框架，各方能更好地理解和应对人工智能领域的安全挑战，从而推动行业的稳健发展。
正如网安标委相关人员所强调的，《治理框架》的发布对于促进社会各方积极参与和协同治理具有重要意义。它不仅为培育安全、可靠、公平且透明的人工智能研发和应用环境提供了技术性的基础指南，还有助于在全球范围内推动人工智能安全治理的国际合作，构建广泛的全球人工智能治理体系，确保人工智能技术真正造福于人类。
CCRC中国网络安全审查技术与认证中心人工智能安全全景治理与合规突围——企业 AI 治理学习北京青蓝智慧科技马老师：135 - 2173 - 0416 / 133 - 9150 – 9126
我们将持续关注人工智能领域的监管动态和行业进展，期待在这一重要领域看到更多的创新和进步。
