「训练推理加速」共找到 3975 篇相关文章
华为发布如何利用RL训练强大的Deep Research Agent综述！
华为技术团队发布综述论文，首次系统性梳理利用强化学习（RL）训练强大的深度研究代理。论文指出传统SFT和DPO方法有局限，RL优势明显，还在数据构建、算法设计等方面给出进展与路线图。
中兴星云拿下推理总分榜一！SuperCLUE 5月成绩出炉
2025年全球AI大模型竞赛激烈，SuperCLUE发布5月报告，中兴通讯星云大模型Nebula Coder - V6推理专项榜单总分并列第一、总榜并列第二，细分赛道表现佳，且是少数获国家级权威安全认证的大模型。
GPT-5-Thinking新训练方法公开：让AI学会忏悔
OpenAI提出忏悔训练Confessions，让ChatGPT自己“坦白从宽”。在GPT - 5 - Thinking上实验有效，模型犯错后多会坦白，且更诚实，不影响原任务表现。还介绍了训练方法、实验结果及局限性。
开源多模态推理「破壁」时刻：MMFineReason助力4B逆袭30B
长期以来，开源多模态模型在复杂推理任务上与顶尖闭源模型有差距，核心痛点是高质量推理数据匮乏。上海AI实验室OpenDataLab团队开源MMFineReason框架及大规模数据集，小模型凭此实现性能逆袭。
NVIDIA 推出Rubin CPX，专为AI推理设计的GPU
NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU，性能提升显著，集成视频编解码器和长文本推理处理。新平台算力强，适用于代码生成与视频处理，多家公司将采用，2026年底上市。
训练数据枯竭怎么办？首篇「数据价值密度」综述理清思路
上海交通大学与上海人工智能实验室团队发布首篇「数据价值密度」综述。提出“数据价值密度”概念并定义，建立分类框架梳理现有工作，还指出该领域面临的挑战，为大模型训练提供指南。
推理token减少46%！Meta新方法缩短思维链，告别重复推导
Meta等联合提出元认知复用机制，让模型总结解题思路，提炼为“行为”存于“行为手册”。实验显示，该机制在数学基准测试中显著优化，保持准确率时最多减少46%推理token使用量。
华为新架构砍了Transformer大动脉！任意模型推理能力原地飙升
即便Transformer是AI世界基石，但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构，能提升模型推理能力，且参数零增。
性能提升11.74%！腾讯优图提出激励推理，专攻复杂指令
现有大语言模型处理复杂指令能力不足，腾讯优图研究团队提出激励推理方法。该方法能提升LLM处理复杂指令表现，在1.5B参数LLM上性能提升11.74%，媲美8B参数模型。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。