开源动态8
摩尔线程 MUSA 合入 SGLang 主线
机器之心
AI 摘要
摩尔线程:MUSA 后端加入 SGLang 官方支持体系,代码合入主线。通过多方面适配与优化,降低开发者算力迁移门槛,众多开源项目核心维护者参与探讨,显示其在开源生态的影响力。
阅读原文 · 机器之心
国产GPU首获全球顶级推理框架「原生门票」:MUSA合入SGLang主线
近日,摩尔线程举办「SGLang × MUSA Meetup」,分享与 SGLang 社区及 MUSA 生态协同进展。其 MUSA 后端已加入 SGLang 官方支持体系,代码合入主线,还在多方面取得成果,众多开源项目核心维护者参与探讨国产 AI 算力。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文9
ACL两篇技能论文杀疯了
本文整理六大2026顶会共460篇高引机器学习论文,详细介绍ACL下两篇聚焦技能拆解复用的高引论文,给出效果数据与论文链接,开放论文合集获取。
PaperAgent
新闻资讯9
谷歌TPU跑Kimi比英伟达GPU快57%
本文报道由vLLM原班人马创立的Inferact公司,联合谷歌优化后,16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%,相关代码已开源,详解了背后的技术优化思路。
量子位
推荐文章9
用Agent优化SGLang 性能大幅提升
本文是百度百舸与SGLang联合Meetup的分享整理,讲解如何让Agent完成从瓶颈定位、Kernel修改到端到端验证的全流程SGLang性能优化,覆盖多类模型场景,公布实测性能提升数据与百度百舸的通信优化效果。
GiantPandaLLM
产品应用8
软件优化让PCIe显卡吞吐翻近7倍
当前大模型算力需求攀升,高端GPU供给紧成本高,大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎,通过纯软件优化挖掘硬件潜力,让DeepSeek推理吞吐提升近7倍,方法也适配国产GPU。
量子位