以系统思维构建智能体治理新范式

作者:王春晖 责任编辑:朱文凤 2026.07.25 20:16 来源:通信世界网

通信世界网消息(CWW)2026年5月,国家网信办、国家发展改革委、工业和信息化部联合印发了《智能体规范应用与创新发展实施意见》(以下简称《意见》)。这份文件的出台,标志着我国在人工智能治理领域迈出了具有前瞻性的一步,为智能体时代的规范发展提供了重要的制度遵循。

一、从“工具治理”迈向“生态治理”

《意见》最显著的突破在于治理范式的升维。过往AI治理多聚焦于算法备案、数据合规等单点问题,而《意见》首次将智能体定义为“具备自主感知、记忆、决策、交互与执行能力的智能系统”,这意味着治理对象已从静态工具转向动态生态。

《意见》提出的“智能互联网”概念尤为亮眼。通过研究建立智能互联网体系架构、探索建立智能体注册平台,并提供数字身份管理、检索发现、能力声明等服务,实际上是在构建智能体时代的数字基础设施与“DNS系统”。这与当前国际主流仅关注模型安全的思路形成鲜明对比,我们不仅管“大脑”(模型),更要管“神经系统”(协议)和“肢体”(执行端)。《意见》强调加强智能体互联协议(AIP)等关键国家标准的推广应用,有望成为继TCP/IP之后中国在互联网架构层面的又一原创性贡献。

二、 安全与创新的“双螺旋”结构

《意见》在制度设计上呈现出精妙的平衡艺术,体现为三个“不割裂”:

第一,底线与创新不割裂。文件将“安全可控”作为底线,但并未将其简化为审批管控,而是通过构建“分类分级治理框架”实现精准施策——对于敏感领域及重点行业,实行备案、检测、问题产品召回等管理措施;对于生活娱乐、日常办公等低风险领域,则通过合规自测、信息报告、行业自律等实现高效治理。这种“沙盒+红线”的模式,既避免了“一刀切”对创新的抑制,又防止了“一放就乱”的风险。

第二,技术与管理不割裂。文件不仅要求发展“规则内嵌、行为围栏”等技术手段,还强调探索利用区块链等技术建立重要应用场景智能体行为可验证、可追溯机制。特别值得肯定的是对“决策权限”的界定:明确厘清仅限用户本人决策、需由用户授权决策和智能体自主决策的合理边界及所需权限,确保用户对智能体自主决策享有知情权和最终决策权。这直接回应了当前智能体“黑箱操作”和“越权执行”的核心痛点。

第三,供给与需求不割裂。《意见》围绕科学研究、产业发展、提振消费、民生福祉、社会治理五大方向,提出了19个典型应用场景,形成了“技术研发—产品迭代—应用落地”的完整闭环。同时,文件强调健全合规服务体系,引导建立智能体市场主体自愿参与的信用评价机制,强化风险监测预警与第三方评测服务供给。尤其是将具身智能等前沿技术纳入民生场景,体现了技术人文主义的价值导向。

三、理想蓝图与现实落地的张力

尽管《意见》框架完备,我认为以下三个深层挑战需要高度关注:

一是标准协议的“巴别塔困境”。《意见》提出建立AIP等国家标准,但智能体生态的复杂性远超预期。当前国际主流厂商的私有互联协议已形成事实上的生态割据。若我国标准仅停留在“指导性文件”层面,而缺乏与主流框架的兼容转换层,可能导致国内智能体生态与国际主流生态“脱钩”,反而制约创新。标准制定不能闭门造车,必须考虑“双向适配”。

二是分类分级治理的“灰度地带”。“敏感领域”与“低风险领域”的边界在实际操作中极为模糊。例如,金融风控智能体属于“产业发展”还是“敏感领域”?教育辅导智能体涉及未成年人,是否应纳入重点监管?文件虽提出“由网信部门联合行业主管部门确定开放场景”,但跨部门协调机制若不能高效运转,可能导致“都管都不管”的监管真空。

三是安全能力的“代际差”。《意见》要求“提升内生安全能力”,但当前智能体安全研究严重滞后于应用发展。智能体的“工具使用”能力使其攻击面呈指数级扩大,一个被劫持的智能体不仅能生成虚假信息,还能自动调用API转账、发送邮件、操控设备。现有的“对抗样本检测”“行为异常检测”技术多针对传统AI,对于具备自主规划能力的智能体,我们几乎缺乏有效的实时干预手段。

四、从“政策出台”到“生态繁荣”的五点建议

建议一:建立“智能体协议转换网关”,推动标准国际化。在推广AIP等国家标准的同时,设立国家级“协议转换网关”项目,实现AIP与国际主流协议的自动映射与互操作。鼓励头部企业参与国际标准化组织(ISO/IEC JTC 1/SC 42)的相关工作组,将我国实践转化为国际标准。标准竞争的本质是生态竞争,而非单纯的技术竞争。

建议二:试点“智能体监管沙盒”,破解分类分级难题。借鉴国际先进经验,在粤港澳大湾区、长三角、成渝双城经济圈设立“智能体创新试验区”。允许企业在限定场景内测试跨领域智能体,监管部门同步积累分类分级经验,形成动态调整的“场景清单”。用实践迭代替代理论推演。

建议三:实施“智能体安全红队”计划,补齐技术短板。由国家网信办牵头,组建跨企业、跨高校的智能体安全红队(Red Team),定期对主流智能体产品进行渗透测试。设立专项基金支持“智能体行为约束”“实时意图识别”“紧急制动机制”等前沿安全技术研究,重点防范数据投毒、隐私泄露、算法篡改及运行失控等系统性风险。安全不能仅靠合规,更要靠技术。

建议四:构建“人机协同”的治理基础设施。《意见》提到“人机协同审核”,需进一步将其落地为基础设施。建议建立国家级的“智能体行为审计平台”,要求高风险智能体接入统一审计接口,记录关键决策节点的输入、推理过程与输出。这不仅满足监管需要,更是未来智能体保险、责任认定的重要基础设施。

建议五:培育“智能体工程化”人才梯队。当前AI人才多集中于模型训练,而智能体时代急需“智能体架构师”——既懂模型能力边界,又懂业务流程编排,还懂安全合规的复合型人才。建议在“人工智能”一级学科下增设“智能体工程”方向,推动高校与企业共建实训基地,将智能体开发纳入职业技能等级认定体系。

《智能体规范应用与创新发展实施意见》的发布,是中国在人工智能治理道路上迈出的坚实一步。它展现了顶层设计的战略定力,也为未来的实践探索留下了广阔的空间。智能体不仅仅是技术的升级,更是人机关系的深刻重构。在拥抱技术的同时,我们既要避免“技术乌托邦”的盲目乐观,也要放下“监管恐惧症”的过度保守。唯有在发展中规范、在规范中发展,才能让智能体真正成为推动高质量发展的新质生产力,而不是悬在人类社会头顶的“达摩克利斯之剑”。

制度的生命力在于执行,执行的关键在于平衡。期待这份《意见》能在实践中不断演进与完善,在技术创新与制度创新的深度耦合中,为全球智能体治理贡献一份温暖而坚定的中国方案。

(作者系:南京邮电大学教授,浙江大学双聘教授、浙江大学网络空间国际治理研究基地首席专家、工业和信息化部信息通信经济专家委员会委员)

通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容