财经快讯财经快讯
重磅!DeepSeek宣布开源原生推理框架
来源摘要 · 东方财富展开 / 收起
【重磅!DeepSeek宣布开源原生推理框架】10月20日,深度求索公司宣布,将内部推理框架“DeepInfer”全面开源,并同步开放生产级Token编解码组件deepseek-recipe。这意味着,云厂商可以使用DeepSeek原生推理框架部署DeepSeek模型,实现接近DeepSeek官方调用的性能和成本——并且在负载调度合理的情况下,大规模云厂商部署非原生DeepSeek的调用成本甚至存
阅读原文本文经由 NewsNow 聚合与智能分析处理,原文版权归来源方所有。