通信世界网消息（CWW）随着互联网技术的快速发展和数字经济的不断深入，网络安全问题也日益突出，需要用新的技术和思维来应对。
2023年12月28日，在2024年ICT趋势年会上，天翼安全科技有限公司（中国电信安全公司，简称“电信安全”）高级安全研究员危嘉祺先生作了题为《大模型时代下如何锻造安全行业能量转化的高性能引擎》的主题演讲，分享了他对人工智能（AI）在网络安全领域的应用和保障的思考与实践。
“AI是一种双刃剑，既可以助力安全，也需要保障安全。因此，电信安全将AI安全分为两大模块，即AI for Security和Security for AI。”危嘉祺讲道。
AI for Security是指将AI技术赋能到安全行业，解决安全场景当中的一些痛点问题，包括能够增强威胁感知能力，提高安全运营效率，以及安全加固。当前AI For Security发展迅猛，包含微软的Security Copilot、谷歌的Security AI Workbench、OpenAI的网络安全创新扶持计划等，以及中国电信安全公司推出的见微安全大模型，见微大模型是一个基于海量数据和先进算法的智能化安全运营平台，能够实现智能降噪、智能溯源、智能处置、智能问答等场景化服务，等同于一支全天候工作的网络安全专家团队，能够为国家重大保障活动和日常的安全运营工作提供技术支持。
Security for AI是指人工智能的内生安全，因为人工智能算法自身可能会有很多安全问题，包括组件层面、数据层面和模型层面。首先是组件安全，依赖的一些框架组件可能存在漏洞；其次是数据安全，人工智能技术本质上是一个数据驱动的技术，数据是决定模型能力的上限，如果它训练数据当中出现毒化数据，出现了污染的对抗样本，对于模型性能会影响比较大，以及在模型训练以及实际应用使用过程当中也会存在数据泄露的风险。
最后是模型安全，可能会存在模型被窃取或者被植入后门，以及大家常常提到的提示注入攻击。危嘉祺介绍了业界在Security for AI方面的一些进展，包括Hiddenlayer的MLDR概念、谷歌和NVIDIA的AI安全框架等，以及中国电信安全公司打造的新一代AI“四可”核心能力，即可测、可知、可防、可控，针对大模型研发全生命周期，打造安全全链路解决方案。
危嘉祺表示，电信安全的目标是锻造安全行业能量转化的高性能引擎，能量转化指要将数据要素转化为安全运营效能。中国电信拥有海量的数据，这些海量数据蕴含大量价值，当然这些数据当中也可能存在噪音。如何通过AI技术驱动，做相应数据分析，提升安全运营效能，是当下需要着重解决的问题。
电信安全一直强调：“要打造安全大模型，数据是核心”。如果数据无法刻画真实场景，再好的算法也是枉然。因此，电信安全打造了内外部双重驱动的高质量数据底座，包括推出“阡陌数聚”计划，联合安全行业同盟打造安全领域高质量数据集，以及建立安全数据中台，整合中国电信云网安全数据优势资源和能力，为数字中国建设保驾护航。
