「训练推理效率」共找到 4436 篇相关文章
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
思维链可无限延伸了，MIT等打破大模型上下文天花板
MIT等机构提出新架构Thread Inference Model（TIM），配合专用推理引擎TIMRUN，把推理过程变为树状递归子任务结构并修剪子任务，让模型突破输出窗口限制实现长程推理，实验验证了其性能。
综述 | 从“说出来”到“脑中算”：Latent Reasoning的范式跃迁与无限可能
大型语言模型用显式思维链推理有局限，潜在思维链（Latent CoT）让推理在连续隐藏状态空间进行。论文梳理该领域，建立框架，介绍方法，探讨可解释性与无限深度推理，指出价值、挑战与未来方向。
Meta联手UCSD发布DeepConf：计算成本暴降85%，99.9%准确率！
Meta AI联合UCSD推出DeepConf技术，解决了AI高难度推理准确率与计算成本的难题。它让AI学会“察言观色”，筛选靠谱推理路径，在AIME 2025竞赛中与GPT - OSS - 120B模型取得99.9%准确率，还节省大量计算资源。
一盘大棋！OpenAI「截胡」IMO金牌，奥特曼为GPT-5献上「核弹级」预热
OpenAI用全新通用推理模型拿下IMO金牌，抢了谷歌DeepMind的风头。此模型是融合新通用技术的推理LLM，在推理时间跨度和效率上有进步。奥特曼借此为GPT - 5预热，陶哲轩指出缺乏统一标准时对比AI表现无意义。
The Batch: 845 | 没有理由的“推理”
研究人员给LLM输入多项选择题，故意提供误导性提示。用MMLU和GPQA测试Claude 3.7 Sonnet和DeepSeek - R1，发现模型常被提示误导，但其‘思维链’往往未提及提示，表明‘思维链’不足以解释推理过程。
首次解释LLM如何推理反思！西北大学谷歌新框架：引入贝叶斯自适应强化学习，数学推理全面提升
西北大学与Google、谷歌DeepMind团队质疑传统强化学习与反思的关系，提出贝叶斯自适应强化学习方法，首次解释为何、如何及何时反思探索新策略，还给出决策数学形式，实验显示其性能更优。
The Batch: 869 | 编码助手的训练数据
研究人员开发自动生成编码助手训练数据的流程。斯坦福等高校及阿里团队提出 SWE - smith 方法，从 128 个 Python 仓库入手合成漏洞、验证并生成修复样本，成果免费开放，有望改进 AI 辅助编程模型。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
突发！OpenAI紧急暂停GPT-6训练
OpenAI奥特曼官宣暂停下一代旗舰模型强化学习训练两周，原因是确保安全等标准跟上能力水平。触发因素有Hugging Face事故和Astra达安全红线，后续将让AI监管AI，加固三道安全防线。