人工智能作为新一轮科技革命和产业变革的重要驱动力量，具有技术属性与社会属性高度融合的特点，在推动生产力发展的同时，也带来新的风险和挑战。习近平总书记强调：“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用。”党的二十届三中全会《决定》提出“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。坚持发展与治理、创新与安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序发展的迫切需要，也是推进国家治理体系和治理能力现代化的重要内容。
坚持以人为本和智能向善的价值导向。发展人工智能，根本目的是造福人类、增进人民福祉、促进人的全面发展。习近平总书记强调：“坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理”。坚持以人为本、智能向善，就要让人民群众共享人工智能发展红利，不断提升人民群众获得感、幸福感、安全感，防范滥用人工智能技术给社会带来危害，引导人工智能向善而行。提高人工智能安全治理水平，一方面要引导人工智能发展以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展；另一方面要在法律、伦理等层面引导人工智能的价值取向，确保人工智能发展安全可控。
构建人工智能安全治理的政策法规和制度体系。要加快人工智能立法进程，制定具有前瞻性的人工智能法律法规，为人工智能安全治理提供坚实法律基础。健全基础设施安全保护、跨境数据安全监管、人工智能安全服务认证等一系列制度，落实人工智能安全治理责任制，清晰界定相关主体权利、义务和责任边界，建立问责和追溯机制，形成人工智能安全治理的制度体系，以良法善治实现激励发展与合理规制的有机统一，确保人工智能安全、可靠、可控，朝着有利于维护国家安全、促进经济社会发展、增进人民福祉的方向发展。
完善与人工智能技术发展相适应的科学监管方式。人工智能迭代速度快，处于一种不断变化的状态中，必须完善与其发展相适应的科学监管方式。适应产学研用深度融合的人工智能发展态势，健全纵向有机衔接、横向有机联系的监管网络，将安全治理嵌入研究开发应用的全过程。加强对潜在风险研判和防范，根据技术发展、行业领域、应用场景等因素建立并动态调整人工智能分级分类标准，对大模型可能产生的安全风险开展合规性评估。加强安全保护基础理论研究和前沿安全技术研究，推动人工智能安全技术创新，开发先进加密技术、认证技术和通用大模型安全可控技术，鼓励跨学科研究，推进人工智能与网络安全、信息安全等领域融合，防范数据泄露、恶意攻击和其他安全漏洞，以高效能科学监管提升人工智能安全治理水平。
形成共建共治共享的人工智能安全治理格局。推动人工智能健康发展，需要多方协同、共建共治。加强政府主导，建立人工智能监管统筹协调机制，发挥其在战略规划、风险管控、规则制定、社会服务体系等方面的总体协调作用。引导行业组织、企业、教育和科研机构、网络平台和有关专业机构强化审慎自律，支持其在人工智能安全风险防范方面开展协作，构建多部门协调、多学科融合、多元主体参与的人工智能安全治理框架和工作体系。同时，搭建公众参与安全治理的线上线下平台，建立起人人有责、人人尽责、人人享有的人工智能安全治理体系，形成人工智能安全治理的强大合力。
(作者为江苏省政协专家咨询委员会副主任)
《 人民日报 》( 2024年08月05日 09 版)
在推动人工智能健康发展的过程中，我们还需加强国际合作与交流。
借鉴国际先进经验和技术，共同探讨和解决人工智能发展中的全球性问题。
在推动人工智能技术发展的同时，必须加强对其安全性的重视，这包括了对相关安全技术研发的持续投入。
为此，政府和企业应共同加大资金和资源的投入，特别是在人工智能安全领域的研发上，确保有足够的支持去探索和开发更为高效的安全管理技术和解决方案。
此外，为了促进人工智能安全管理的升级和完善，鼓励创新思维显得尤为重要。
通过激发研究人员和技术开发者的创新潜力，可以开发出更多前沿的安全技术，从而有效应对由人工智能带来的各种潜在风险和挑战。
例如，利用机器学习和大数据分析等先进技术，可以更准确地预测和管理与人工智能相关的安全威胁，进而提前采取措施进行防范。
技术进步是推动人工智能安全管理不断升级的动力。
随着人工智能技术的不断进步，其在各行各业中的应用也日益广泛，这就要求我们在安全管理上也需不断适应新的技术变革，利用最新的科技手段来强化安全防护措施。
比如，采用更先进的加密技术保护数据安全，或开发智能监控系统以实时监控可能的安全隐患。
总之，加大对人工智能安全技术研发的投入、鼓励创新思维以及利用技术进步，这三者相辅相成，共同促进了人工智能安全管理体系的升级和完善。
这不仅有助于保障人工智能应用的安全性，也为该技术的健康发展奠定了坚实的基础。
通过这些举措，我们可以更好地利用人工智能带来的种种便利，同时有效地控制和减少潜在的风险。
