开源动态7

FBGEMM在MoE模型性能提升显著

GiantPandaLLM2025-06-06

AI 摘要

BBuf：将fbgemm开源的moe grouped gemm kernel与SGLang的进行对比，在正确性无误时，fbgemm在MoE模型上性能提升显著，可用于SGLang相关kernel，但存在一些使用局限。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

SGLang：CUDA Graph 进阶技术突破

本文介绍 SGLang 构建 CUDA Graph 支持及改动。如 Runner/Backend 解耦与灵活组合；首创 Breakable CUDA Graph 并开源，能提高捕获灵活性；还实现 Prefill 的 Full CUDA Graph，同时介绍显存管理方法。

文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。

传统模型路由用于写生产代码易掉链子，Cognition发布的Devin Fusion混合模型框架可解决该问题。官方测试显示，它能降35%编码智能成本且质量无明显下滑，从实际测试案例可看出其适用边界。

本文从「编译产物评审」视角，分析 SGLang 的 PR、FlashInfer DeepGEMM 及 Ampere→Hopper 架构迁移案例。指出算法面和编译产物面会有分歧，编译产物 diff 能提前揭示执行路径变化，对开源项目有增益。