通信世界网消息（CWW）随着AI技术的普及和生成式AI的规模化应用，网络安全形势变得愈发严峻和复杂，网络攻击规模持续扩大，攻击手段更加专业化，攻防对抗强度持续升高。生成式AI在网络安全领域呈现出“双刃剑”效应，在促进各行业发展的同时，也显著扩大了企业与组织的攻击面，围绕大模型技术的新型攻击模式开始涌现。
AI为网络安全带来了怎样的新形势和新挑战？AI时代如何建设可落地的网络安全体系新范式？近日，网宿科技旗下网宿安全发布《2024年度网络安全态势报告》（以下简称《报告》），对过去一年安全领域攻击态势与防御技术进行分析，并提出“AI驱动的体系化主动安全”理念，为企业在AI浪潮下的安全建设提供可落地的实施路径。
AI普及：成为最锋利的“矛”
2024年，生成式AI推动了应用形态的跃迁。随着基座模型竞争白热化，企业级应用逐步从单点试验转向实际探索阶段。Gartner预测，2025年全球生成式AI支出将达6440亿美元，年增长76.4%，超过80%的企业将于2026年使用或部署生成式AI应用。
在AI应用场景不断拓宽的同时，新型网络安全风险也在加速显现。2024年针对使用A1系统的网络攻击事件开始频繁。例如，3月，OpenAI、优步、亚马逊等公司使用的AI计算框架Ray因未修复的漏洞遭长期渗透，攻击者控制7000余台服务器；6月，黑客利用未公开漏洞入侵Hugging Face的Space项目，攻击者在未授权的情况下成功访问了部分项目的机密数据，包括用户身份认证文件；11月，一名英国程序员使用GPT生成代码，引用了一个来自GitHub的恶意项目，导致个人私钥被泄露给钓鱼网站，最终损失2500美元。
总体来看，AI技术引发的网络安全风险形势变化，可分为AI系统自身脆弱性引发的安全风险和AI技术被不当利用而衍生的安全风险。其中，前者既包含IT设施传统风险，又涉及AI特有风险，攻击手段呈现新旧叠加的特征。
《报告》显示，随着AI等新兴技术的快速发展，网络攻击早已突破传统的单点渗透模式。攻击者通过将日益增大的互联网暴露面作为初始入口，结合AI生成的钓鱼攻击、供应链攻击等突破Web应用防线，进而利用办公场景中的办公漏洞、窃取身份凭证、实施集权系统攻击等行为进行横向渗透，最后实现攻陷目标的目的，形成全链路攻击闭环。
《报告》指出，AI应用漏洞攻击数量正在激增。当前网络安全威胁格局持续恶化，漏洞利用风险态势显著升级。据网宿安全平台数据统计，2024年Web漏洞利用攻击拦截次数同比增长68%，其中针对AI应用漏洞的攻击数量呈现爆发式增长，其背后的主要原因是大语言模型（LLM）等的规模化部署催生新型攻击面，模型训练框架漏洞、推理服务API越权访问风险激增。
AI训练和推理离不开大量数据的支撑，而生成式AI正在重构数据泄露攻击范式。在网络攻击中，AI通过多重数据分析生成高仿真攻击载体，使企业员工难以辨别真伪。AI在赋能攻击的同时，自身也存在系统性泄露风险：在模型训练阶段，使用未脱敏数据会导致敏感数据随模型泄露；在模型应用阶段，恶意用户可通过提示词注入等手段诱导AI模型输出敏感数据。
最引人关注的是AI系统自身脆弱性引发的安全风险，以及AI技术被不当利用衍生的安全风险。网宿安全主机安全平台监测到，2024年热门AI类应用CVE漏洞新增了250个，同比增长36%，增速超过了整体CVE漏洞的增长。而提示词注入攻击作为位居首位的AI应用特有风险，也已从最初的诱导模型泄露敏感信息，升级为诱导模型调用系统权限的高危行为，凸显健全大模型防御体系的紧迫性。
策略升维：“AI+体系化主动安全”
AI的发展正在驱动防御策略升级，已成为推动攻防双方策略升级和对抗加剧的核心驱动力，同时也为数据安全防护提供了新的突破口。“在多种攻击手段融合与攻击链条复杂化的双重趋势推动下，企业安全体系正从‘规则维度’向‘认知维度’升维，从单点防护向‘全链条监测、多维度对抗’的立体化防御体系加速演进。”网宿科技安全事业部高级总监胡钢伟指出。
在2023年的互联网安全报告中，网宿安全首次提出了基于“风险管理”的“体系化主动安全”理念。2024年，面对生成式AI广泛应用对企业风险管理底层逻辑的重构，网宿安全提出了“AI+体系化主动安全”升维的对策。
“传统风险管理以‘被动防御’为主，而AI时代需围绕资产、脆弱性、威胁三要素重构体系，构建‘主动预测－动态响应－智能防御’的新理念。企业安全建设应向‘AI驱动的体系化主动安全’升级，需构建‘暴露面收敛－纵深防御－智能运营’三位一体的动态防护架构。”胡钢伟表示。
在Web安全及办公安全方面，针对资产暴露面激增问题，《报告》建议通过MSS（安全托管服务）实现“人机共智”的动态风险治理；针对AI驱动威胁向智能化、强对抗演变等新特征，企业可基于WAAP、SASE等前沿架构，构建覆盖全流量的威胁检测和防御体系，并利用AI技术形成自适应防御模型，实现从“被动防御”到“主动免疫”的转变。
针对大模型的规模化应用过程中带来的安全挑战，《报告》提出分区分域防御的策略，建议大模型基础设施域采用云原生安全技术强化主机与容器安全，大模型应用域依托WAAP架构构建Web与API全链路防护，大模型数据域通过零信任机制与数据库全生命周期审计实现动态管控，形成覆盖“基础设施－应用交互－数据资产”的立体防护体系。
网宿安全目前已经牛刀小试，将该体系付诸实践。网宿科技售前及解决方案部大区经理王华强介绍，某潮玩商城拦截99%异常订单流量，连锁企业全国门店统一安全管理，以及央国企安全事件发现及响应时效从8小时缩短至10分钟等成功案例，实证了该体系在多阶段智能对抗、终端安全管理、安全运营提效等场景的落地价值，彰显了安全防御与业务发展的深度协同能力。
最后，胡钢伟强调，网络安全博弈将加速向认知维度升级，唯有构建动态、弹性且与业务深度协同的体系化主动安全能力，方能在AI时代抵御持续演进的威胁，护航数字生态的稳健发展。
