大推理时代 新型智算推理集群建设的思考与实践

作者:中国移动研究院 段晓东 张昊 王升 覃杰 沙霏 责任编辑:包建羽 2025.07.01 14:53 来源:通信世界杂志

通信世界网消息(CWW)今年2月,我国自主研发的大模型DeepSeek引发广泛关注,多项指标性能追平甚至超越国外先进大模型,在美国等西方国家对我国人工智能产业链全方位制约的背景下,成功走出了一条低成本、高性能的“突围之路”,被认为是人工智能领域的重要“黑马”和“国运级产品”。DeepSeek通过“算法模型创新+算网设施优化+开源开放战略”的组合拳,在提升底层算网资源使用效率的同时,大幅降低大模型对算网资源的需求,推动AI平权,加速智能体、智能机器人等AI应用的普惠化发展。未来三年,中国智能算力规模总量将增长2.5倍,年均复合增速近40%,而推理算力的年增速将是训练算力的近4倍。预计到2028年,推理算力规模将首次超过训练算力,一个崭新的“大推理”时代即将到来。

大推理时代智能算力将呈现新的发展趋势:一是算力性能走向极致,大模型发展持续推高算力需求,催生超节点等超高密度、超高算效的新型算力架构;二是智算格局发生变化,智能算力加速从集中走向分布,高性能推理集群、一体机等多样化推理算力形态不断涌现;三是垂直优化成为关键,DeepSeek开创软硬件联合优化的模型发展新途径,该途径驱动算网基础设施、模型和算法的更深层次协同与联合优化。

……

点此阅读杂志全文

微信图片_20250630171930.jpg

通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容