Deepseek 开源支撑其最快最便宜 AI 模型的推理引擎
← 返回今日版面来源
2 条DeepSeek将支撑线上百亿级调用的云服务推理框架DeepInfer及生产级分词组件deepseek-recipe开源,采用Apache 2.0协议。
Deepseek开源了DeepInfer推理框架,该框架用于其V4.1-Flash模型,可降低计算成本和能耗。此举对OpenAI和Anthropic等西方提供商施加更多价格压力。
DeepSeek将支撑线上百亿级调用的云服务推理框架DeepInfer及生产级分词组件deepseek-recipe开源,采用Apache 2.0协议。
Deepseek开源了DeepInfer推理框架,该框架用于其V4.1-Flash模型,可降低计算成本和能耗。此举对OpenAI和Anthropic等西方提供商施加更多价格压力。