通信世界网消息（CWW）DeepSeek今日宣布，将在该公司此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，进一步将其内部推理框架DeepInfer全面开源。
DeepSeek指出，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于推理框架这一中间层。推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。
基于DeepInfer，DeepSeek实现了DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来DeepSeek新模型的推理代码及后续优化也将在此持续更新。
据悉，DeepInfer推理框架集成了高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。deepseek-recipe编解码组件同步开源的生产级Token编解码组件，与DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。
