返回首页
开源动态8

DeepSeek开源DeepInfer推理框架

AIGC开放社区
AI 摘要

DeepSeek开源了支撑自家大模型的大规模云服务推理框架DeepInfer,首次公开推理服务层部分工程实现,配套开源协议转换组件,方便开发者学习,但完整在线能力仍未全部开放。

阅读原文 · AIGC开放社区
DeepSeek开源DeepInfer:V4.1-Flash推理框架首次公开
大模型开源此前多开放权重和模型代码,此次DeepSeek将开源推进到推理服务层,公开DeepInfer推理框架及配套组件,开放大模型推理服务核心工程实现,为开发者提供学习参考。

相关文章