11月起正式实施的行业标准，要求AI系统在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面具备控制风险的能力。
8月11日，中国信息通信研究院（下称“信通院”）就《人工智能 安全治理 系统风险管理能力要求》（YD/T 7173-2026）行业标准（下称“标准”）发布解读。该标准以风险评估方法表、识别清单、风险评估报告和应对报告，助力企业构建便捷实用的风险管理工具箱，引导企业从“事后补救”转为“前置主动防控”，减少人工智能安全事故。
标准由信通院联合22家高校、科研院所、科技企业共同编制，并在7月获工业和信息化部批准发布，将于2026年11月1日起正式实施。该标准旨在促进人工智能产业持续健康发展，明确规定了人工智能研发与应用主体的管理和技术能力要求，针对组织建设能力、流程管理能力、风险防护能力等方面进行规范。
第一财经记者从信通院了解到，标准基于人工智能系统全生命周期，通过分析影响程度，对人工智能的风险进行分级评估。标准要求，人工智能系统的研发、应用相关执行部门应对已识别风险开展风险分析，并对风险进行“严重、高、中、低”四级分级。同时，将不可接受的风险定义为隐患，划分为重大、中度、一般隐患。
例如，对组织（包括其他组织）造成小范围财产损失或声誉受损归为低风险；而对组织关键业务造成业务停摆、关键数据泄露、财产遭受严重损害，或信誉全面受损的风险被认定为严重风险。
就AI的风险来看，标准提供了风险识别清单。清单中不同的风险类别包含若干风险源，并匹配对应的风险控制能力。例如，应用服务安全这一风险就包含未向相关方告知模型能力和局限性、模型生成虚假信息未标识并广泛传播，以及未经同意处理个人信息等情况。
近年来，人工智能技术快速发展并深度融入千行百业，同时模型幻觉、算法偏见、隐私泄露、智能体失控等风险显现，传统安全手段难以有效应对，人工智能技术在风险管理方面面临诸多痛点。
即将实施的标准要求AI研发和应用主体提高对AI系统的风险防护能力，具体体现在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面。
在可靠性方面，标准要求AI系统采用价值对齐机制，减少输出有害或不当内容的风险，确保结果符合预期目标与伦理规范。在透明性方面，标准要求AI系统通过显式和隐式标识或水印，提示模型生成内容，防止因模型生成内容未告知用户而被混淆、误认、广泛传播的风险。同时，标准还要求AI系统具有可问责性。标准要求引入模型审计机制，对系统运行过程和结果进行独立验证，确保具备外部监督渠道。
从技术发展角度看，人工智能技术跃迁导致风险暴露面增多、隐患分散，风险广泛分布于数据处理、模型建设、测试验证与部署上线等多个环节。从合规视角看，风险管理已成为各国人工智能治理的重要抓手。
当前，欧盟《人工智能法》、美国NIST《人工智能风险管理框架》、新加坡《2026年新加坡人工智能安全共识》、我国相关法律法规，均将风险管理作为人工智能安全核心管控手段，全球正加速形成风险治理共识。但从管理角度而言，企业仍面临技术管理割裂、综合防控缺位的治理难题。
信通院下一步将围绕金融、医疗等典型场景开展标准应用试点，总结可复制、可拓展的实施经验，支撑垂直行业提升人工智能风险管理能力。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
宋婕
原创精选 相关阅读
腾讯跟投阿里千问前负责人，林俊旸相信AGI“应以此为目标”新公司的研究方向为横跨数字世界和物理世界的下一代智能体（Agent）。
7 18745 8小时前
顺着说、假装做，大模型“讨好型人格”成智能体时代新挑战看似对人类有求必应的大模型开始出现不诚实的行为。
22899 07-30 07:41
50亿美元砸向AI初创企业：英伟达越投越大，“循环融资”疑问越来越响这笔投资落在了一个敏感的时点上，它是AI芯片厂商与模型开发者之间一系列“循环融资”交易中的最新一笔。
8 43204 07-28 07:14
利欧数字郑晓东:“人机协同”正重构营销底层逻辑 2873 07-21 11:48 
第一财经正式启动指数产品生态战略，向产业价值赋能平台转型自2003年成立以来，第一财经始终深耕金融市场与科创产业两大领域。此次指数产品生态战略的启动，是其从财经媒体向“产业价值赋能平台”转型的重要里程碑。
2873 07-20 14:21 一财最热 点击关闭宜人配资提示：文章来自网络，不代表本站观点。
