通信世界网消息（CWW）随着人工智能加速迭代落地，技术“双刃剑”特征愈发凸显。过去一年，全球发生了多起真实的安全事件：有开发者为代码智能体开放本地完整权限后，程序因路径识别错误清空了设备全部文件；有海外企业的智能体误删核心生产数据库，造成无法挽回的损失。
AI技术一日千里，潜藏的安全隐患也加速发酵。当人工智能加速渗透千行百业，智能体开始替代人类开展决策、调用工具、自主执行任务，安全防线应当如何重构，AI安全如何应对？
AI高速迭代，安全挑战持续凸显
当前，我国人工智能产业已形成规模领跑、创新活跃、应用广泛的发展格局。数据显示，我国已成为全球人工智能专利最大拥有国，专利申请量全球占比达60%；全国AI企业数量超6200家，2025年人工智能核心产业规模超过1.2万亿元。国内开源大模型全球累计下载量突破100亿次，建成高质量数据集超12万个，算力、模型、数据互促共进的良性循环加速形成。
依托强劲的科技创新能力，人工智能正全面赋能实体经济与社会民生。在广东顺德，美的“智能体工厂”引入思谋科技人工智能视觉推理平台后，检测节奏完全匹配生产节拍，人工智能直接参与生产决策，大模型迅速转化为现实生产能力。目前，我国规模以上制造业企业人工智能技术应用普及率超30%，智能经济核心产业规模超过万亿元，生成式人工智能用户规模超6亿。我国人工智能技术创新和产业应用成效显著，整体实力大幅提升。
产业蓬勃发展的背后，数据安全、监管体系等内生及衍生风险持续凸显，AI对网络安全的冲击呈现鲜明的两面性。一方面是“矛”的升级：AI智能体为了完成任务自主突破边界，现有前沿AI模型已具备持续实施复杂网络攻击的能力。另一方面是“盾”的承压：AI辅助发现的潜在漏洞数量已经超出人工审核能力，漏洞处置压力陡增，倘若治理进度跟不上AI迭代节奏，原本用于提高效率的AI工具可能产生新的安全风险。
更值得警惕的是，AI安全风险的权责界定陷入模糊困境。传统网络攻击可追溯主体、界定责任，而AI自主越界行为往往涉及开发者、测试方、部署者、使用者等多个主体，现有规则无法明确追责。单纯依赖企业自律、事后补救的治理逻辑，早已无法适配AI技术的风险特征。
整体来看，传统网络安全思维、防护体系与治理规则，已难以管控高速发展的AI技术。行业亟须构建全方位、全链条、动态化的AI安全治理体系，在激活产业高速增长动能的同时，筑牢安全可控的发展底线，推动人工智能产业安全、可靠、可控发展。
安全市场千亿蓝海，北京走在前列
当前，AI浪潮正在催生三类安全需求集中爆发：AI漏洞+AI攻击引爆实战安全需求；智能体引爆数据安全需求；AI规模化应用引爆全栈安全需求。今年1月，新修订的《中华人民共和国网络安全法》正式施行，首次明确AI安全规范，为技术发展系上“安全带”。
网络安全是AI时代的基础性、保障性产业，产业规模将伴随数智化规模水涨船高。数据显示，到2030年，中国数字经济规模将超80万亿元，网络安全迎来千亿级增量市场空间。
作为全国人工智能产业发展高地，北京在加快打造人工智能万亿级产业集群的同时，将数字安全产业列为高精尖产业发展的重要方向，持续加大政策支持和资源投入，携手各方共建数字安全产业新生态。
目前，北京在模型评测、AI安全治理等方面率先破题，已经成为全国数字安全产业发展的主要策源地。根据官方数据，北京市数字安全产业规模已超过千亿，居全国首位。
在制度和体系构建方面，今年3月，北京市委网信办发布《北京市生成式人工智能大模型产业发展与治理白皮书》，围绕研发训练、备案管理、部署应用、风险防控等关键环节，构建“安全成熟度”指标体系。同期，北京数据和人工智能安全检测中心正式揭牌，建立AI产业全链条安全支撑体系，为产业创新发展筑牢安全屏障。
当前，北京AI产业领跑优势突出：2025年，北京人工智能核心产业规模突破4500亿元，核心企业逾2500家，独角兽企业约40家，占全国半数以上，已累计完成大模型备案259款，这些指标均位居全国首位。北京已然成为名副其实的人工智能“第一城”。
展望未来，北京将锚定2030年建成全球数字经济标杆城市的目标，加快关键核心技术攻关，全面提升AI安全产业体系能力，联合各方共建数字安全产业新生态。
大咖论道：以智铸盾，行稳致远
2026年9月21日，以“AI筑高地 智绘新标杆”为主题的2026（第二十三届）北京互联网大会即将启幕。本次大会共设一场主论坛、三场平行专业分论坛，其中分论坛二——AI安全护航与数字治理论坛，以“智安铸盾 行稳致远”为主题，将聚焦AI广泛应用下的安全挑战与治理创新，邀请基础电信运营企业、模型安全企业、数据安全企业、智能体安全企业重磅嘉宾，围绕大模型安全、算法治理、数据安全、深度伪造防御、AI安全法规标准等话题，剖析AI技术应用的安全风险，探讨AI安全技术创新与迭代路径，为构建安全可控、健康有序的产业生态筑牢安全屏障。期待本次论坛能够凝聚多方智慧，共同探索更加有效的AI安全发展之路，为数字经济高质量发展筑牢安全防线，为网络强国建设贡献力量。
聚焦AI安全攻防与风险治理
共筑大模型安全新防线
诚邀业界同仁莅临现场
共话AI时代安全新未来
扫码报名参会
会议咨询
联系人：工信智媒体 舒文琼
联系方式：13693013432
电子邮件：shuwenqiong@bjxintong.com.cn
