DeepSeek宣布将内部推理框架DeepInfer全面开源

【DeepSeek宣布将内部推理框架DeepInfer全面开源】10月20日，DeepSeek宣布，将内部推理框架DeepInfer全面开源。DeepSeek提到，希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。