搜索：三段式后训练

「三段式后训练」共找到 3743 篇相关文章

Anthropic最新论文：检测LLM内省意识的方法

Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。

本文是对火思动力创始人Kevin Ding的专访。他指出当下Agent会工作但不会成长，而如今市场需求、技术条件和数据供给成熟，可开展持续学习。他还阐述了后训练、产品应用、商业化等方面观点。

近日，微博发布自研开源大模型VibeThinker，15亿参数却在数学测试上击败6710亿参数的DeepSeek R1，后训练成本仅7800美元。其为AI产业带来新思考，还将推动微博AI应用发展。

2026开年，OpenAI的「推理之父」Jerry Tworek离职，他入职近七年，是推理技术核心人物。Scaling Laws失效，后训练成主要出路，但深度推理成本高，在强调盈利环境下，Tworek不满研究受限而离开，OpenAI或失去通往AGI的机会。

VLA-R1是“先推理、后执行”的VLA基础模型，结合链式思维监督与强化学习，优化推理和执行。它有两阶段训练、三类可验证奖励等创新点，经多层面测试效果好，在多领域有应用前景。

文章探讨AI爱用破折号的原因。AI常用“delve”源于非洲导师打分偏好，但破折号并非如此。作者发现这一现象在GPT - 4后凸显，原因或为AI公司用旧书训练，使AI继承旧时代写作风格。

阿里达摩院智能决策团队提出面向RLVR后训练的探索增强框架I²B-LPO，改进rollout策略，在关键节点生成更具区分度的推理轨迹，结合信息瓶颈自奖励机制，在多个数学基准上提升准确率与语义多样性。

北京智源研究院联合中科院自动化所提出 UniVLA 全新 VLA 模型架构，基于全离散、自回归机制建模多模态信号，后训练引入世界模型。它刷新多项基准纪录，在真机操控和自动驾驶有潜力，为多模态感知决策融合带来新思路。

文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。

OpenAI后训练负责人、GPT - 5核心推手Max Schwarzer跳槽至Anthropic，此前也有多位技术领袖离开。OpenAI在商业版图扩张与伦理争议并存下，正从参数军备赛转向体验护城河，同时加速商业与政治布局，但面临人才流失等问题。