「并行推理加速」共找到 2686 篇相关文章
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
将DSA注意力引入多模态，快手Keye2.0开启强化推理新范式
快手发布新版多模态大模型Keye-VL-2.0-30B-A3B，率先将DSA机制引入多模态理解场景，解锁256K超长上下文深度感知，还首次解锁Agent协作机制。该模型在多方面表现出色，且将融入业务带来收益。
小鹏加速冲向L4终局：对VLA架构「动刀」成关键一环
在辅助驾驶领域，端到端的VLA方法虽有效果，但面临中间层语言难以准确表达物理世界细节的问题。小鹏汽车去掉“语言转译”环节，推出第二代VLA，有跨代级驾驶体验，背后是底层技术架构重构。
四足机器人首次同时「思考+走路」，北大提出链式推理MobileVLA-R1
在「大模型+机器人」浪潮中，让机器人既听懂话又走得对、稳很难。北大MobileVLA - R1将链式思考引入四足机器人，在仿真和真实实验中对标强基线实现提升，构建了更具工程可用性的范式。
汇丰科技25年丨植根中国，服务全球，加速金融创新和数字化进程
汇丰科技中国从 16 人团队成长为全球科技中心，率先用区块链、AI 等技术为全球跨境交易提速。25 年来扎根中国，在技术、人才等方面成果显著，未来将持续提升创新与服务能力。
RL Infra 行业全景：环境和 RLaaS 如何加速 RL 的 GPT-3 时刻
文章指出RL Scaling正推动AI从“人类数据时代”迈向“Agent体验时代”，RL Infra可弥合模拟与现实差距。梳理了RL环境、RLaaS、数据/评估三大模块，分析代表公司案例，探讨RL未来趋势与投资策略。
NVIDIA技术沙龙《强化学习流水线优化：性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。
3D-R1重塑三维视觉语言推理！让三维交互更智能
近年来，视觉 - 语言模型在2D图像理解有突破，但3D视觉语言模型面对复杂场景不足。为此上海大学团队提出3D - R1模型，它基于新数据集和策略构建，有强多任务三维理解能力，不过也存在进步空间。
数学编码超越O3-high，英伟达版「DeepSeek R1二代」推理模型开源~
Nvidia开源OpenReasoning-Nemotron系列模型合集，采用Qwen2.5架构，基于500万条轨迹训练。评测输出长度最高64K token，多版本刷新SOTA。其‘heavy’模式有独特能力，32B版在数学与编程基准超越O3（High）。