「训练推理加速」共找到 3975 篇相关文章
Mira Murati 创业公司首发长文，尝试解决 LLM 推理的不确定性难题
OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》，指出大语言模型推理难获可复现结果，深入探究其不确定性根源，提出使核函数具备批次不变性的方法并给出实现与实验。
大模型训练的不稳定性有望彻底解决，MIT新研究用谱正则化替代层归一化
MIT团队创造Lipschitz Transformer，用谱正则化替代层归一化，认为或解决训练不稳定根本原因。他们对比多种方法权衡，发现Muon + 奇异值裁剪推动权衡边界，且工作完全开源。
NeurIPS 25 | GRPO进阶版来了，GVPO重构大模型后训练范式
大模型后训练越发关键，GRPO 有缺陷。作业帮与香港科技大学（广州）团队在 NeurIPS 2025 提出 GVPO 方法，解决 GRPO 稳定性难题，理论有最优解保证，实验表现超现有方法。
刚刚，GPT-5.4核心内幕炸裂剧透！或拥有永久记忆，极限推理狂飙
多方消息显示GPT - 5.4已开启测试，多次意外曝光。它或有极限推理模式、翻倍上下文、长任务表现佳，甚至可能拥有永久记忆。OpenAI因对手紧逼，模型更新接近月更。
LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout
大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。
数据邪修大法好：仅用文本数据就能预训练多模态大模型
多模态大模型研发中，行业认为无图文对就无多模态能力。但ReVision研究表明，预训练阶段昂贵配对关系非必需，利用非配对数据统计信息修正文本表征，能实现跨模态互换，降低成本。
兼顾效率、成本与能力，百灵开源旗舰推理模型 Ring-2.6-1T
5月15日，蚂蚁百灵开源旗舰级推理模型Ring-2.6-1T，权重文件上线Hugging Face、ModelScope平台。该模型有万亿参数，‘按需思考’，在代理执行、推理机制、训练范式三方面升级，评测表现出色。
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
阿里智能体多轮推理超越GPT-4o，开源模型也能做Deep Research
通义实验室推出自主信息检索智能体WebDancer，其通过系统化训练范式为构建智能体提供路径，也为在开源模型上复现Deep Research系统提供指导。它在多数据集测试中表现出色，团队还对其未来应用做了展望。
刚刚，美团开源 SOTA 推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking
美团宣布开源高效推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking，是国内首个结合多种推理能力的大语言模型。它采用新方法提升性能，已在多平台开源，API 平台免费开放，还兼容主流 API 格式。