「后训练范式」共找到 4404 篇相关文章
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
1052篇文献！上海AI Lab发布科学LLM综述：从数据基础到Agent前沿
上海AI Lab主导，25家研究机构共同梳理270+训练集、190+评测集，提出科学数据分层框架与智能体闭环科研新范式。还介绍了模型演进、数据情况、评估基准等，指出数据缺陷并展望走向科学家智能体的三步。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
极简主义的胜利：清华团队用最简单的强化学习配方刷新1.5B模型纪录
清华、伊利诺伊大学和上海AI实验室团队提出JustRL架构，仅用单阶段训练和固定超参数，在1.5B模型上刷新性能纪录，计算量仅为复杂方法50%，挑战了复杂技术堆叠现状。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
投奔小扎，Jason Wei连发两篇博文公布“屠龙术”：一个公式看透AI，一条心法指引人生
OpenAI研究科学家Jason Wei被小扎挖走后连发两篇文章。一篇提出“验证者定律”，指出训练AI解决任务难易与可验证性成正比；另一篇从强化学习悟到人生要走On - Policy路线，发挥自身优势。
Meta最新大模型RL微调：在线DPO/GRPO显著优于离线DPO
Meta和NYU研究强化学习在大模型微调中的有效性，对比离线、半在线和在线训练范式。半在线和在线显著优于离线，多任务结合可验证与不可验证任务能提升性能，还给出不同任务的测试数据。
让 AI 自己打怪升级，Meta用Self-play RL把Coding推向超级智能
Meta FAIR、Meta TBD Lab等朝着“超级智能软件工程Agent”迈出第一步。SSR让大模型零人类标注，靠自生成Bug和自修复稳定碾压人类数据基线，新旧范式对比优势明显，还介绍方法、实验结果与理论洞察。
Claude统治一切！吞下这颗红药丸，焊工也是顶尖程序员
一种被称为「Claude - pilled」的现象在硅谷蔓延，焊工、律师等非程序员用Claude Code写APP，程序员护城河渐崩。但工程师用它后学习速度下降，社区探索让AI成导师的办法，且软件开发范式正转变。
性能提升84%-166%！L-Zero仅靠强化学习解锁大模型探索世界的能力 | 已开源
招商局狮子山人工智能实验室团队用RLVR让模型“自学”，构建L0系统，含NB - Agent框架和端到端强化学习训练流程，开源相关内容。测试显示L0显著提升模型性能，展现强大泛化能力。