搜索：后训练算法 - AI Reading Hub

「后训练算法」共找到 4117 篇相关文章

关键突破：理论验证了 RL for LLM 路线的可行性

传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。

本文第一作者赵正宇来自西安交大，针对现有迁移攻击方法缺乏系统公平对比分析的问题，将其分为五大类，在 ImageNet 上对 23 种攻击与 11 种防御方法开展评估，证实评估缺陷会误导结论，解决后有新见解。

腾讯混元团队在 ACL 2026 Findings 发布的 ToolCPT 指出，Agent 用不好工具病根在预训练。它从真实代码挖工具，写说明书，融入预训练，实验显示能有效提升工具运用能力，但也有局限和成本。

亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。

OpenAI开源新研究成果，提出全新范式，训练权重稀疏的Transformer模型以提取人类可理解的电路。该方法分三步，关键结果显示稀疏模型优势多，但也存在训练成本高、规模有限等局限，还给出两条未来路线。

林俊旸离职阿里千问后发声，反思千问技术路线，认为千问合并两种模式未做好。他指出推理时代已过，未来是智能体时代，智能体思考将成主流，还阐述了其与推理思考区别及面临的挑战。

微软和 UIUC 合作研究 StudentSim，基于真实学生数据训练个性化学生模拟器框架，解决了过去学生建模方法的问题。它经两阶段训练，在多领域实验中表现出色，还能为 AI 教师优化提供反馈。

近日，北京量子信息科学研究院孵化的「向量奇点」完成超亿元天使轮融资，由 IDG 资本领投。资金用于研发第一代中性原子通用量子计算机。全球量子科技竞争升温，该团队由青年科研人员组成，未来将攻关核心技术。

高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。

中国科学院自动化研究所与腾讯AI Lab团队，从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上表现优于传统算法。