「Mini-SGLang」共找到 163 篇相关文章
奥特曼深夜官宣：OpenAI重回开源！两大推理模型追平o4-mini，号称世界最强
OpenAI深夜推出gpt-oss 20B和120B两款开源模型，性能比肩o3-mini和o4-mini，能在消费级显卡甚至手机运行。有宽松许可证等亮点，还准备了体验网站。这是自GPT - 2后首次开源，降低了部分群体准入门槛。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
记录下SGLang开发，优化，debug的技巧之大SKILL时代已来临
文章记录SGLang开发等技巧，介绍Agent在编程开发领域的强大能力，如完成多种工作、提升模型速度。还提及Agent流程优化方向，提醒警惕其偏差，指出人的价值转变，成为设计、把关和提炼者。
DeepSeek R2没来，Kimi K2来了，VLLM，SGLang首发支持
Moonshot AI发布Kimi K2大语言模型，采用混合专家架构，总参数量达1万亿。其有多项技术创新，在多个基准测试表现突出。发布两版本，用修改版MIT协议开源，vLLM、SGlang首发支持，已上线多服务。
Meta Shuffling的MoE Grouped GEMM kernel benchmark
作者拷贝fbgemm开源的moe grouped gemm kernel，修复小bug后与SGLang的Grouped GEMM Triton Kernel对比，结果显示fbgemm在MoE模型上性能提升显著，可应用到SGLang的ep - moe的grouped gemm kernel中。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
SGLang团队联合slime团队开源实现100%可复现的稳定RL训练框架。基于Qwen3 - 8B重复实验结果完美重合。SGLang在批次不变算子基础上实现确定性推理，性能有下降但有提升空间，还给出使用方法和未来规划。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
GPT 4o-mini华人领队离开OpenAI：真正推动AI进步不是模型架构，而是互联网
前OpenAI研究员Kevin Lu加入Thinking Machines Lab，该公司2025年7月获约20亿美元早期融资，估值约120亿美元。Kevin Lu曾主导GPT - 4o mini发布，他认为真正推动AI进步的是互联网，而非模型架构。
OpenAI新模型Day0就被嫌弃！排名拉垮，不如一月底发布的国产模型
OpenAI推出GPT - 5.4 mini和nano模型，主打快速经济，针对编程等优化。但评测中GPT - 5.4 mini排名不佳，不如国产Kimi 2.5，且价格对比有争议。不过与自家旧版比有提升，网友测试有亮点。