DeepSeek在美国人工智能行业逐渐关注高价闭源模型时，选择将自身技术向外界开放，从而获得了国际网友的高度赞赏。近日，DeepSeek宣布开放其内部的生产级推理框架DeepInfer。该框架是DeepSeek在面对美国尖端芯片出口限制时，确保与美国顶尖AI模型保持竞争力的关键。DeepInfer负责管理模型使用计算资源以响应用户请求，其设计直接影响延迟、吞吐量及硬件需求，是决定AI运营成本的重要因素。

报道称，AI公司通常将推理技术视为核心竞争力，鲜有公开。然而，DeepSeek此次的开放使外界得以了解其在降低运行成本的同时，如何保持AI模型的高性能。即便是同一款AI模型，因软件的不同意味着运行成本也可能大相径庭。更高效的软件能减少每次请求的计算资源，进而降低能源消耗。DeepInfer集成了分布式推理和投机解码等技术，可以在不同硬件上分配AI任务，使模型在较短时间内提高输出量，并进一步挖掘芯片的潜力。目前，该框架已兼容英伟达SM100 GPU和华为昇腾950 NPU。

虽然其中不少底层技术已广泛应用，DeepSeek仍对其模型进行了特别优化，使这些技术的协同效应更为显著。业界分析认为，AI托管服务商若能降低推理成本，将有更大的利润空间，可能会进一步降低AI服务价格。对于企业用户而言，在自有基础设施上运行DeepSeek的模型也可能降低算力成本。此外，DeepSeek的开源也使其他开发者能够研究并借鉴其技术方案，应用到自己的模型推理系统。 谈球吧直播

在DeepSeek宣布开源DeepInfer后，美国加州一家公司Unsloth AI对其表示感谢，称借助Dynamic GGUFs，已经实现DeepSeek-V4.1-Flash-1017在128GB内存设备上的本地运行。评论区涌现出大量海外开发者与AI从业者的积极反响，一位印度博主称DeepSeek为“真正的开放AI”，并发布了一段调侃OpenAI首席执行官的视频。有欧洲的AI从业者用漫画讽刺美国公司闭源的模式，而DeepSeek则以降低成本的方式让AI更普惠。来自孟加拉国的一位软件开发者对此表示赞赏，称DeepSeek是对开源大语言模型生态贡献最大的公司之一。

尽管DeepSeek发布的并非完整的推理技术栈，其文档中指出，构建完整服务仍需包括KV缓存系统等功能，但大多数核心解耦功能已经实现。AI基础设施初创公司Requesty的首席执行官表示，DeepInfer虽降低了部署DeepSeek模型的门槛，但企业依然需具备相应的算力与技术能力。他认为，DeepSeek传递的信息是，“任何人都可以自行托管我们的模型，但实现高效管理还是需要一些技巧”。

在海外网友看来，DeepSeek的行动远不止于开源推理框架，它在不断公开过去企业内部技术的同时，也让更多人能够参与。这与美国AI行业愈发强调的闭源模型和巨额计算投入形成了鲜明对比。尽管OpenAI的名称中蕴含“开放”，其核心模型却一直采取闭源策略，而来自中国的DeepSeek正在实际行动中践行“开放”，期望未来全球AI服务在范围和质量上得到前所未有的扩展与提升，变得更加公平、透明和可信，从而加速技术迭代，减少能源浪费。 谈球吧直播