开源动态8
DeepSeek开源DeepInfer推理框架
AIGC开放社区
AI 摘要
DeepSeek开源了支撑自家大模型的大规模云服务推理框架DeepInfer,首次公开推理服务层部分工程实现,配套开源协议转换组件,方便开发者学习,但完整在线能力仍未全部开放。
阅读原文 · AIGC开放社区
DeepSeek开源DeepInfer:V4.1-Flash推理框架首次公开
大模型开源此前多开放权重和模型代码,此次DeepSeek将开源推进到推理服务层,公开DeepInfer推理框架及配套组件,开放大模型推理服务核心工程实现,为开发者提供学习参考。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
OpenAI将COBOL迁移准确率提至97.9%
本文报道OpenAI针对低资源编程语言的最新研究,其COBOL代码迁移准确率从5.4%大幅提升至97.9%,探讨了AI改造遗留系统的进展、应用边界与待解决的问题。
InfoQ
算法论文9
RSIGame让AI自主开发超GPT-5.5
来自UCSD、字节跳动、CMU的研究团队提出RSIGame框架,解决大模型一次性生成游戏质量不足的痛点,通过双层闭环实现AI自主迭代改进游戏,还能将开发经验用于训练模型,最终27B微调模型搭配RSIGame的生成质量超过GPT-5.5一次性生成结果。
机器之心
开源动态9
DeepSeek推理利润率高达80%
本文拆解DeepSeek大模型推理框架的底层超大规模集群调度设计,公布其单集群日吞吐155万亿Token,低价API下仍保持80%高毛利率,详解多项极致优化方案。
AI寒武纪
产品应用8
千问推电商Agent 开店成本大降
本文报道千问办公推出独立第三方电商Agent产品千问办公电商版,接入多平台主流电商工具,可帮商家实现跨电商平台经营管理,大幅降低开店试错成本,目前已面向商家开放邀测。
AI前线