「GPU加速」共找到 983 篇相关文章
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
PD 分离推理的加速大招，百度智能云网络基础设施和通信组件的优化实践
为适应PD分离式推理部署架构，百度智能云从物理网络、网络流量、通信组件和算子层面优化，提升上层推理服务性能，展现了网络、组件与业务特征融合的重要性。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。
学界大佬吵架金句不断，智谱和MiniMax太优秀被点名，Agent竟然能写GPU内核了？！
卡内基梅隆大学助理教授蒂姆·德特默斯与加州大学圣地亚哥分校助理教授丹·傅，就AGI是否会实现展开争论。他们还谈到算力、Agent应用等话题，看好小模型、开源模型等发展，认可中国大模型进步。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。
还在拼命加 GPU？AI 应用规模化的下半场，拼的是这五大软件“新基建”
文章指出 AI 应用规模化下半场，拼的是五大软件“新基建”。从云原生到 AI 原生，应用基础设施面临诸多挑战，如从代码中心到智能体管理等。作者提出构建智能体协作网格、认知记忆平台等五座技术灯塔，助力 AI 原生应用发展。
世界模型太慢？西交大提出Fast LeWorldModel：用「动作前缀并行预测」让动态估计加速4倍
视觉规划里世界模型‘想象’过程慢，西安交通大学研究团队提出Fast LeWorldModel，从根本改变预测方式，实验显示其提升了成功率，还大幅缩短规划时间。
从傅盛的龙虾到汗青的加速主义，AIFUT大会Day1下午场总结都在这了。
AIFUT大会第一天下午场信息密度大。傅盛称龙虾是工具的AGI时刻；特效小哥008认为AI不替代人类但可能替代工作；辩论探讨教用AI能否教会；朱广翔说程序员岗位将减少，泛创造者会增加；李继刚指出人不可压缩的只剩体验；赵汗青探讨慢的东西如何存活。
刚刚，英伟达革了自己的命：智能体自主进化7天，干掉所有算子工程师、GPU专家
英伟达新研究AVO构建了新型进化变异算子，用自主编码智能体取代经典方法。智能体7天自主进化，优化MHA内核，性能超cuDNN和FlashAttention - 4，还能快速适配GQA，展现强大泛化能力。
英伟达早不靠GPU躺赢！黄仁勋终极预判：10亿程序员时代将至，AI智能彻底廉价
2026 年 GTC 大会后黄仁勋接受深度访谈，他指出 AI 核心竞争转向“AI 工厂”，扩展定律沿四条路径推进，未来大量数据是合成数据。他还预测程序员将达十亿级，强调人人学 AI，认为智能会商品化，人性高于技术。