「vLLM Playground」共找到 56 篇相关文章
开源动态7
开源多智能体开发框架:支持MCP、Agent SDK,超2000颗星。
著名企业孵化器Y Combinator支持的开源多智能体开发框架Rowboat,支持MCP服务和Agent SDK,几分钟就能开发复杂智能体工作流。它由Agent、Playground、Copilot组成,还支持创建面向用户的助手,在Github超2000颗星。
AIGC开放社区
算法论文8
腾讯发布大模型思考早停算法SpecExit,效果无损,端到端加速2.5倍!
腾讯为破解大模型长思维链效率难题,提出思考早停算法SpecExit,将思考早停与投机采样融合,在不影响准确性前提下,在vLLM上实现端到端加速2.5倍,还能缩短思维链长度。
腾讯技术工程
算法论文7
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现(v1 和 v2),前者从 vLLM 移植,后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容,还对比了两代差异,并提及相关环境变量。
GiantPandaLLM
新闻资讯7
Alphaist 陈哲对谈蓝驰陈维广:AI 应用的机会在哪里?具身到底怎么投?
Alphaist 创始人陈哲与蓝驰创投管理合伙人陈维广在 AGI Playground 2026 上对谈,探讨 AI 应用机会与具身投资策略。谈到市场热度变化、SOTA 模型与用户需求差距等,也对应用层机会、估值逻辑、具身智能发展发表看法。
Founder Park
新闻资讯7
星海图高继扬:具身智能下半场,应用为王
星海图CEO高继扬在AGI Playground大会分享具身智能观点,认为2026年是下半场,核心是应用。具身智能发展慢因缺高质量数据和合适本体,未来产品形态或为‘整机+预训练模型+后训练工具’,下游将形成大生态。
Founder Park
新闻资讯7
下一站AI创业主线:别卷模型了,把这件事干成才重要
在AGI Playground 2025上,极客公园张鹏与三位投资人探讨Agent时代投资。他们认为AI创业进入「拼交付」时代,多模态短期影响被高估、长期潜力被低估,通用Agent是巨头之争,垂直Agent是创业机会,还会催生新基础设施,付费模式向按结果付费演变。
Founder Park