开源动态7
阿里团队重现 DeepSeek 推理突破
InfoQ
AI 摘要
阿里集团智能引擎团队:在 RTP - LLM 上对齐了 DeepSeek 推理系统性能,分享优化关键技术,指出算子性能等方面不足;还提到 Qwen3 可采用类似部署模式,在延迟和吞吐上表现更好。
阅读原文 · InfoQ
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
小米烧347万训出开源第一大模型
本文作者实测小米花费347万美元训练的开源大模型MiMo-V2.6,从多类真实场景测试模型能力,分析性能成本与实际体验,给出客观真实的测评结果。
花叔
推荐文章9
MiMo V2.6破解大模型不可能三角
本文作者实测对比同日发布的Grok 4.7与小米MiMo V2.6两大模型,认为MiMo V2.6在性能、价格、速度上满足大模型"不可能三角",体验超预期且全面开源,对AI从业者实用性极强。
数字生命卡兹克
开源动态8
Jev开源替代品Laya 速度快7倍
本文介绍闭源决策模型Jev的开源替代品Laya,对比两者性能差异,分析Laya的优势与局限性,给出适用场景,为开发者提供选型参考。
AI工程化
开源动态9
阿里千问开源Qwen-Image-2.1登顶开源生图
本文介绍阿里千问最新开源的7B参数量生图模型Qwen-Image-2.1,该模型拿下公开评测开源生图第一,实现文生图与图像编辑一体化,原生支持透明图生成,最多支持10张参考图输入,强化了局部编辑与人像商品保真,轻量且实用性强
机器之心