人工智能安全治理蓝皮书 ——发展负责任的人工智能 中国信息通信研究院 2026年1月人工智能安全治理研究报告 ——推进人工智能安全治理产业实践框架 (2025年)No.202510版权声明 本报告版权属于中国信息通信研究院，并受法律保护。 转载、摘编或利用其它方式使用本报告文字或者观点的，应 注明“来源：中国信息通信研究院”。违反上述声明者，本 院将追究其相关法律责任。 前 言 人工智能技术以其前所未有的发展态势引领新一轮科技革命和 产业变革，深度驱动经济社会发展。 2025年8月，国务院发布《关 于深入实施“人工智能 +”行动的意见》，系统推动人工智能在全社 会的普及应用与深度融合， 逐步形成 “以创新带应用、 以应用促创新” 的良性发展飞轮。技术跃迁释放价值红利的同时带来风险挑战，只有 当“安全内核”嵌入“发展飞轮”，产业才能实现高质量和可持续发展。 当前，全球人工智能安全治理逐步迈向体系化、实操化阶段，各 主要经济体持续推进治理框架落地， 如何在产业层面构建务实有效的 安全治理举措，已成为核心议题。我们深刻认识到，技术快速发展催 生新风险敞口，应用场景快速延展引入复杂治理难题，应对人工智能 安全治理问题需树立动态的人工智能安全观。与此同时，人工智能安 全相较于传统网络安全、数据安全，风险载体愈发复杂多样、安全防 御体系尚处探索阶段、安全检测评估难度加大、传统管理机制难以适 配，产业界亟需一个全局性、系统化的行动框架作为指引。为此，本 报告基于中国信息通信研究院前期 《可信人工智能白皮书 （ 2021年） 》 《人工智能治理蓝皮书（ 2024年）》相关研究积淀，面向产业发展凝 练2025年人工智能治理宏观要求，基于《人工智能安全框架（ 2022 年）》《人工智能风险治理报告（ 2024年）》相关产业积累，进一 步提炼当前产业面临的人工智能安全治理挑战。 报告经过深入研究与 实践总结，立足本土产业实践，提出“两横三纵”的人工智能安全治 理产业实践框架。该框架以“管理”与“技术”双线协同为横轴，实 现制度牵引与能力支撑的深度融合；以“开发侧”“部署侧”与“应 用侧”三侧发力为纵轴，实现从模型研发、系统部署到场景应用的全 链条防护，旨在为产业提供一套系统性、可落地、动态化的安全治理 体系。同时，我们呼吁产业各界凝聚共识、形成合力，将分散的治理 努力整合为统一的系统屏障，共同构建协同共治、安全可信的人工智 能生态。鉴于人工智能技术应用日新月异，本报告对人工智能安全治 理的认识仍有未尽之处，恳请大家批评指正。 谨向为本报告提供指导、支持与协助的中国政法大学、中国社会 科学院法学研究所、对外经济贸易大学、同济大学、深圳市腾讯计算 机系统有限公司、阿里巴巴（中国）有限公司、北京百度网讯科技有 限公司、中国邮政储蓄银行、上海明品医学数据科技有限公司、煤炭 科学研究总院有限公司、中国移动通信集团有限公司、中国联合网络 通信集团有限公司等单位及专家，致以衷心的感谢。 目 录 一、人工智能安全治理概述 ........................................................................................1 （一）宏观规范要求迈向务实新阶段 ................................................................1 （二）技术应用发展凸显风险新态势 ................................................................2 （三）产业实践需要安全治理新框架 ................................................................3 二、全球人工智能安全治理现状 ................................................................................4 （一）国际合作层面，全球加强安全治理深化交流 ........................................4 （二）监管政策层面，各国推动安全治理体系化落地 ....................................6 （三）产业实践层面，构建安全治理务实举措成为核心议题 ........................9 三、人工智能产业安全治理核心挑战 ......................................................................11 （一）技术发展扩大内生安全新敞口 ...............................................................11 （二）应用延展引发衍生安全新难题 ..............................................................14 （三）组织管理体系构建面临新卡点 ..............................................................16 （四）多元共治协同机制尚待健全完善 ..........................................................17 四、人工智能安全治理通用实践框架 ......................................................................19 （一）风险管理：构建闭环的人工智能风险管理体系 ..................................20 （二）模型研发：筑牢人工智能开发安全源头根基 ......................................24 （三）系统部署：构建人工智能部署安全防护屏障 ......................................27 （四）应用运行：强化人工智能应用安全动态评估 ......................................29 （五）产业生态：共建基准测试体系与协同治理机制 ..................................32 五、典型领域探索安全治理实践方案 ......................................................................35 （一）金融行业打造人工智能风险管控方案 ..................................................35 （二）医疗行业多维度提升模型输出准确性 ..................................................37 （三）交通行业结合应用场景探索安全方案 ..................................................38 （四）能源行业加强基础设施的安全防护 ......................................................39 （五）通信行业加强“以技治技”的安全治理体系 ......................................40 六、展望......................................................................................................................42 图 目 录 图1人工智能安全治理产业实践框架 .......................................................................4 图2人工智能安全治理“两横三纵”实践框架 .....................................................20 图3大模型安全基准测试框架（ 2.0）....................................................................32 图4《人工智能安全承诺》披露网站 .....................................................................33 人工智能安全治理研究报告（2025 年） 1一、人工智能安全治理概述 （一）宏观规范要求迈向务实新阶段 2025年，人工智能技术持续快速迭代创新，多项突破性进展正 推动其能力边界不断扩展。 基础模型 推理能力显著增强，通过构建统 一的跨模态表征空间，实现图像、语音和文本等多模态应用。 智能体 打通“感知、决策、行动”闭环，使模型从“语言生成器”向“任务 执行者”转变。 具身智能 驱动机器人实现高阶认知与自主学习。人工 智能与基础科学深度融合，在生物化学、医药研发等科研领域取得突 破性进展，驱动科研范式发生深刻变革。然而，人工智能数据安全、 算法偏见、 模型幻觉、 情感依赖、 数据污染等问题不但未被妥善解决， 反而在技术深入赋能过程中被不断放大。 人工智能安全治理相关问题 已经成为严重阻碍技术红利释放的掣肘。 在此背景下，全球人工智能安全