「调度器」共找到 387 篇相关文章
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
物理引擎 + 视频生成！输入一张图，让AI演给你看真实物理世界
WonderPlay将物理仿真与视频生成结合，从单张图像生成动态3D场景。它引入混合生成模拟器，形成物理求解器与视频生成器闭环。与其他方法对比，WonderPlay在多种场景和材质下表现更优。
骨灰级克隆网站设计的开源项目
现在克隆网站设计常停留在截图和吸色，难以完全还原。designlang 项目用无头浏览器打开 URL，从实时 DOM 读取设计系统，输出多个文件，还能做到布局模式等其他提取器做不到的事。
专访｜两位华人主导创办，Jeff Dean参投，伯克利开源项目SkyPilot转型初创
前沿模型团队算力瓶颈从不足变为分散，开源AI算力调度项目SkyPilot应运而生。7月末，它从高校走出成为初创公司，完成2000万美元种子轮融资。其免费版与商业版各有侧重，切入AI编排赛道潜力大。
RAG外部检索是多余的，英伟达最新成果颠覆认知
英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作，存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索自身编码表示，训练量小，在多跳QA上超越多种检索基线。
别盯着GPU了，CPU正成为AI时代的“新瓶颈”
进入2026年，AI系统性能越来越取决于执行与调度能力，CPU正成为AI时代的“新瓶颈”。目前CPU市场供应紧张，英特尔、AMD、英伟达等大厂应对策略各有不同，智能体时代算力天平正回摆。
刘壮陈丹琦新作：开源通用视觉推理RL框架，0思考数据刷新SOTA
普林斯顿刘壮团队、陈丹琦参与推出开源通用视觉推理RL框架Vero。它构建的视觉推理器在30多项测试达8B视觉语言模型SOTA，解决了开源RL方案的问题，所有数据、代码、模型均已开源。
你花80%精力调的AI，效果被 PDF 解析卡死了
做RAG时，花80%精力优化embedding和检索，效果上限却被PDF解析卡死。OpenDataLoader PDF靠不同架构在基准测试获第一，采用混合架构，还做了三件其他解析器不做的事，思路值得学习。
这次，钉钉领先半目
钉钉发布会前，阿里成立Alibaba Token Hub事业群，设悟空事业部，钉钉归入其下。无招回归后思考AI时代钉钉形态，革故鼎新，推出真经系统等，在制造业案例展现优势，强调可编程企业概念，悟空有望带来新商业想象。
算力稀缺时代，如何把 GPU 用“满”
在 GPU 稀缺且利用率低的背景下，本文分析其‘用不好’的原因，探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例，解析内核态虚拟化及在离线混部技术，还介绍其在多行业降本增效的实践。