「Mini-SGLang」共找到 163 篇相关文章
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
Clawdbot：火爆硅谷，让开发者疯抢Mac mini的AI新物种
Clawdbot是诞生仅三周的开源项目，让AI走出聊天框成数字同事。它由退休程序员Peter Steinberger推出，能24小时运行在本地电脑，解决AI落地难题。许多开发者为此抢购Mac mini。
“开源版贾维斯”一夜席卷硅谷！Mac mini因它卖爆
开源AI助理Clawdbot爆火，GitHub获超两万星。它能调用多模型，被称“开源贾维斯”。为部署它，网友疯抢Mac mini。其作者是退休亿万富翁Peter Steinberger，网友用它处理各类事务，还有挣钱挑战。
赛博鸡生蛋，7小时用Claude Vibe Coding一个Mini-Claude
本文是小白向文章，用Vibe Coding方式参考Claude实现精简版Mini-Claude。介绍开发流程，含打通LLM API调用、完成tool use调用等步骤，还提及后续待做事项及对AI开发的思考。
Mini-Omni-Reasoner：实时推理，定义下一代端到端对话模型
现有端到端对话模型推理能力未解锁，因深度思考带来延迟。为此提出 Mini - Omni - Reasoner，采用边思考边表达范式，突破‘要么快，要么准’困境，还设计了数据合成管线和五阶段训练方法，实验证明其性能提升明显。
这届网友太狠了：Clawdbot爆火，狂囤40台Mac mini来跑
周末，AI 助手 Clawdbot 爆火，顺带带火了 Mac mini。它可在聊天软件中对话、自动完成任务，由四大核心组件支撑，应用场景广泛，创始人 Peter Steinberger 于 2026 年 1 月发布该开源项目。
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。
4o-mini华人领队也离职了，这次不怪小扎
OpenAI的Kevin Lu离职，下一站是估值120亿美元的Thinking Machine Lab。他毕业于UC伯克利，在OpenAI领导完成4o - mini，擅长小模型和强化学习。他认为应关注互联网数据，停止强化学习研究转做产品开发。