「GPU加速」共找到 982 篇相关文章
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
英伟达下一代GPU登场，Rubin CPX一次推理数百万Token，网友：这是头野兽
在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。
「国产GPU第一股」首秀！新架构下周揭秘，全栈底座不藏了
2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举行。届时会揭晓新一代GPU架构与路线图，设20+技术专场，还有1000㎡科技嘉年华，展示全栈能力与生态进展。
一张GPU跑10万原子！分子之心用AI把化学反应“拍”成了电影
分子之心推出反应性机器学习力场QuantaMind，仅用单张GPU即可实现十万原子级化学反应高精度模拟，突破了分子模拟领域精度、时间、规模不可能三角，大幅降低计算门槛，可应用于酶工程、抗体设计等研发领域。
不换GPU，性能飙升2.8倍！英伟达用软件暴打摩尔定律
2026年1月8日，英伟达官网披露，基于Blackwell架构的推理软件栈升级，让混合专家模型（MoE）推理效率迎「阶跃式」突破，单GPU吞吐飙升2.8倍，显著降低推理成本。其通过软件针对性升级发挥硬件潜力，还进行多项优化。
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
英伟达确认恢复 H20 在中国销售，并推出面向中国的全新 GPU
7月15日英伟达官网发文，将恢复H20在中国销售，黄仁勋称正提交重售申请，美政府保证发许可证。还推出面向中国的全新GPU，强调AI成基础资源，致力支持开源研究等。
扩散语言模型九倍推理加速！上海交大：KV Cache并非自回归模型的专属技巧
上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache，复用特征降低计算量。它即插即用，通用于主流dLLM架构，在多个基准测试中实现数倍推理加速，且不降低生成质量。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
5090将被秘密定位？美或强制植入「地理追踪」，锁定英伟达高端GPU
美参议员Tom Cotton提出法案，要求英伟达、AMD等高端GPU和AI芯片植入「地理追踪」功能，6个月后生效。法案覆盖多种产品，对芯片制造商是挑战，还为未来监管升级做铺垫。