「后训练方案」共找到 4388 篇相关文章
Transformer学不会多位数乘法？MIT和哈佛的研究指出了一个简单漏洞
MIT、哈佛和谷歌DeepMind团队实验发现，Transformer做4位数乘法有软肋。用‘隐式思维链’（ICoT）训练的模型准确率达100%，传统方法仅1%。研究揭示了问题根源，还给出修复方案，但也引发诸多质疑。
8块钱跑通一次强化学习全流程，潞晨云重塑微调赛道：1名算法工程师=1支Infra团队
大模型下半场，后训练特别是强化学习成核心战场。潞晨云微调SDK上线，它是国内首个全面开放、且兼容Tinker范式的Serverless微调平台，为强化学习提供低成本解法，在易用性和成本上有优势。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
最强3B「小钢炮」，代码数据全公开！推理随意开关，128k超长上下文
Hugging Face推出30亿参数模型SmolLM3，支持128k长上下文，训练等全链路开放。它在架构、数据混合策略等多方面优化，性能超Llama3.2 - 3B等，还公开双模式指令模型构建方案。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
大模型一年内就会吞噬 Harness！Google AI Studio负责人：深耕垂直领域才是创业公司唯一生路
Google AI Studio负责人Logan认为，大模型一年内将吞噬Harness，90%的Agent中间件公司最多存活12个月。创业公司应深耕垂直领域，Google用Anti - Gravity平台串联产品，推动智能体发展，且模型后训练潜力巨大。
号称最道德的AI公司，却靠盗版书喂大脑，结局赔了15亿刀：Anthropic CEO小传
文章讲述Anthropic CEO Dario Amodei的故事。他曾因担忧GPT-2风险离开OpenAI创立Anthropic，获有效利他主义者资助。Claude研发慢错过市场，后求立法监管对手，还因用盗版书训练模型被告，赔15亿刀。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。