「GPU内核算法」共找到 1007 篇相关文章
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
重磅开源！首个全异步强化学习训练系统来了，SOTA推理大模型RL训练提速2.77倍
清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²，坚持“全面开源、极速训练、深度可定制”理念，实现异步 RL 训练，训练速度最高提升 2.77 倍，支持多轮智能体强化学习训练。
最新W4A4KV4全量化框架，单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架，通过系统 - 算法协同优化，实现全4比特推理性能突破，在多方面有技术亮点，实测性能碾压现有方案且已开源。
Veo 3全网实测惊艳所有人！DeepMind CTO：规模是AGI全部吗？
谷歌推出视频生成模型Veo 3，一句提示词就能打造电影质感短片，还能音画同步，引发网友惊叹。DeepMind CTO在访谈中表示，规模非AGI唯一要素，还提及Deep Think模式及Veo 3进展等。
模型一个没换，正确率翻了近三倍，这个项目有点东西啊！
GitHub开源项目AutoResearch用同一模型答题，其EvoMap蜂群模式使正确率近三倍于单Agent和常见Sub - Agent模式。它是多Agent评审系统，靠蜂群机制让AI自动科研，还有诸多防幻觉等特点，能用于多场景优化。
2026 GOAI 世界人工智能开源大赛「AI for Research 前沿探索」赛道报名中
2026年7月21日，GOAI世界人工智能开源大赛‘前沿探索（AI for Research）’赛道在杭州启动。该赛道聚焦AI与科研交叉，设算法和开放探索两类赛题，不限学科，重问题定义，认可‘无发现’价值，强调证据链。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
DeepSeek秘密造芯！专攻推理，一年前已启动，招聘全程不公开
路透社消息，凭借算法震动硅谷的中国AI公司DeepSeek正秘密开发自研AI芯片，定位推理，项目约一年前启动，现处早期。全球模型公司自研芯片成趋势，虽挑战大，但DeepSeek有资金支撑。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
为什么算力追赶这么难？前谷歌架构师现场黑板推演底层架构，看懂芯片底层逻辑里被忽视的“空间博弈”
前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起，推导芯片架构，指出芯片大部分成本花在搬运数据上，还探讨乘加运算、脉动阵列等原理，以及时钟周期、FPGA与ASIC差异等内容。