产品应用8

网易游戏用 Fluid 加速大模型推理

AI前线2026-03-03

AI 摘要

网易游戏：为应对大模型推理挑战，选 Fluid + AlluxioRuntime 构建架构，有自动预热、弹性伸缩等配置，实现 12 倍启动加速，降低存储成本，提升 GPU 利用率，保障高并发稳定。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

ACL两篇技能论文杀疯了

本文整理六大2026顶会共460篇高引机器学习论文，详细介绍ACL下两篇聚焦技能拆解复用的高引论文，给出效果数据与论文链接，开放论文合集获取。

本文报道由vLLM原班人马创立的Inferact公司，联合谷歌优化后，16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%，相关代码已开源，详解了背后的技术优化思路。

当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。

本文介绍清华大学联合无问芯穹推出并开源的面向具身智能的云原生纳管平台RLark，解决具身智能多设备、多集群协同管控痛点，大幅降低接入和启动耗时，现已完成跨地域真机实测。