中国信通院卫斌： 云上人工智能安全防护体系不断迭代升级，护航AI产业健康发展

      由新华社品牌工作办公室、新华网、新华社海南分社主办的2025企业家博鳌论坛系列活动于12月2日至5日在海南博鳌举办。作为论坛系列活动之一，2025AI生态共建论坛暨《睿德数字经济创新发展大数据平台》发布会3日在博鳌举办。

      图为中国信通院卫斌

      会上，中国信息通信研究院（以下简称 “中国信通院”）云大所开源和软件安全部副主任卫斌作《云上人工智能安全发展态势洞察》主旨演讲，围绕云上人工智能安全领域的发展趋势与核心挑战，深入探讨了人工智能创新应用的安全防护路径。

      卫斌表示，当前，我国人工智能产业发展进入系统布局、全面深耕的新阶段，统筹人工智能的发展与安全已成为产业布局的关键议题。人工智能作为新一轮科技革命与产业变革的关键驱动力，正深刻改变经济与社会形态。他认为，人工智能技术本身存在脆弱性、不稳定性等内生性安全风险。同时，人工智能也为提升安全防护能力提供了创新路径与应用场景，推动网络安全体系向智能化、主动化转型。因此，坚持发展与安全并重，统筹创新应用与安全治理，是保障人工智能健康有序发展的前提。

      针对备受关注的智能体安全问题，卫斌表示，随着国内外监管政策日益完善，安全已成为智能体可持续发展的底线，构建适配行业需求的安全防护体系尤为迫切。他进一步提出三点思考，一是安全防御模式将从被动向主动化、自治化演进，通过技术融合实现风险预判与自主响应；二是大小模型融合应用将形成能力互补，推动智能化防御能力从单点防护向全域协同提升，适配多场景安全需求；三是利用AI技术治理AI自身风险，构建“以模抗模”的闭环体系，将成为行业安全发展的重要路径。

      卫斌介绍，作为行业协同发展的桥梁，中国信通院已建立较为完善的“可信AI云安全”研究体系，该体系主要涵盖三方面工作，积极开展云上大模型安全、智能体安全等领域标准与评估体系建设；持续发布产业洞察报告，推动知识共享；依托云计算开源产业联盟搭建云上人工智能安全生态交流平台，目前已汇聚50余家单位，致力于构建协同发展的安全共同体。

      卫斌强调，云上人工智能安全是国家安全能力建设的重要组成部分，需要政府、企业、科研机构协同发力。中国信通院将持续发挥平台作用，推动技术创新、标准制定与产业落地深度融合，助力构建安全可信的智能经济生态，为“人工智能 +”行动深入实施与数字经济高质量发展保驾护航。