「GPU调度」共找到 539 篇相关文章
苏妈和李飞飞炸场CES！AMD AI全栈野心显露：从云端到个人PC，AI芯片性能四年要飙1000倍
今年 CES 上 AMD 专场演讲亮点多。苏姿丰称未来五年50亿人每天用 AI；李飞飞和她探讨空间智能与世界模型；Helios 平台受关注，MI455 GPU 解决内存墙；Ryzen AI 推动 AI 下放到本地。
基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel
作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现，其中包含量化Kernel。文章关注此Kernel，介绍在B200上实现高性能Memory Bound Kernel的优化技术，如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。
老黄200亿「钞能力」回应谷歌：联手Groq，补上推理短板
谷歌TPU威胁刚至，英伟达砸200亿美元联手Groq布局AI新时代。知名投资人指出Groq LPU推理速度远超GPU、TPU等，但内存容量小。英伟达借此补推理短板，入局竞争激烈的推理市场。
AGI前夜重磅：RL突破模型「认知上限」，真·学习发生了！
AI研究圈争论RL能否赋予模型超越基础模型的推理能力。UC Berkeley等团队提出DELTA框架，观察到“RL grokking”现象，还设计新任务验证，提出两阶段奖励调度，总结两种模式等，为争论带来新依据。
Claude Skills，4000字详解 Anthropic 的思考
Anthropic推出新技能Claude Skills，作者认为它会引导第三方工具形态。Skills结合笔记式形态、可执行工具与AI调度自优化，具备低门槛、灵活表达等优势，还实现了AI自我进化，是一种新范式。
Karpathy「疯狂之作」：100美元、4小时，就能训练你自己的「小型GPT」
AI传奇人物、前特斯拉AI总监Karpathy推出开源项目「nanochat」，以不到8000行代码复现ChatGPT全流程，只需一台GPU、约4小时、成本仅百美元。项目在GitHub上线不到12小时获4.2k星标。
Meta「分割一切」3.0曝光！技能语义分割加入概念提示，好好玩，要爆了
Meta第三代“分割一切”模型SAM 3悄然投稿ICLR 2026。它支持基于概念提示的多实例分割，能听懂人话，处理图片快，还设计新架构、构建数据引擎、提出SA - Co基准，实验表现佳但也有局限。
通用LLM压缩算法，居然藏视频编码里！2.5bit实现4bit性能，硬件无缝支持
LLM.265研究发现，视频编码器是高效的大模型张量编码器，现成视频编解码硬件压缩AI模型数据效率高。它灵活控制码率、可压缩多种张量，还能利用GPU硬件加速。实验显示其压缩效果显著。
山姆奥特曼称OpenAI 有意收购Chrome
OpenAI CEO山姆·奥特曼在晚宴上透露，OpenAI 有意收购 Chrome，认为这能提升自家 AI 浏览器水平。此外，他还谈及 GPT - 5 开发、ChatGPT 相关问题、业务扩张计划等多方面内容。目前因法官考虑强制谷歌出售 Chrome，Perplexity 已报价 345 亿美元参与竞购。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。