「三段式后训练」共找到 3743 篇相关文章
模拟大脑功能分化！北大与港中文发布Fast-in-Slow VLA，让“快行动”和“慢推理”统一协作
北大与港中文研究团队发布 Fast-in-Slow（FiS-VLA）全新双系统视觉 - 语言 - 动作模型，将快速执行模块嵌入预训练视觉 - 语言模型，实现快慢系统一体化。该模型在多平台表现优异，控制频率大幅领先。
马斯克被曝合并SpaceX和xAI！估值1.5万亿美元，左手火箭右手AI
路透社消息，马斯克正推进SpaceX和xAI换股合并，正值SpaceX计划今年晚些时候上市前夕。交易落地后，火箭发射能力与Grok模型打通。SpaceX估值8000亿美元，xAI达2300亿美元，合并后将成超级联合体。
重磅！翁荔最新Scaling Law深度洞察来了
北大毕业的前OpenAI高管翁荔（Lilian Weng）的《Scaling Laws, Carefully》值得一读。Scaling law是预训练预算表，能帮少烧错钱。文章探讨大模型训练预算分配，分析Kaplan和Chinchilla结论差异及数据稀缺问题。
Agent开始“自我进化”：会出题、会反思，还会自己长出新技能
文章围绕自进化Agent展开，介绍其概念、受重视原因及三大技术路线，涵盖各路线代表工作的特点、评估及对比，指出研究空白如总结者训练等，最后还介绍了基于Agentic AI的全链路数据助手Dola。
4小时喜提专属 ChatGPT、卡帕西又整活！自曝Agent帮倒忙、手搓八千行代码，网友：跑完就当上机器学习工程师
特斯拉前AI总监安德烈·卡帕西发布开源项目nanochat，是极简全流程训练/推理工具链，可搭建简易版ChatGPT复现模型。花100美元最快4小时能训练出可对话模型，代码基本手写，网友热度高。
100美元、仅8000行代码，复现ChatGPT，Karpathy：这是我写过的最疯狂的项目
特斯拉前AI总监Andrej Karpathy发布全新开源项目「nanochat」，是极简且完整的「从零构建ChatGPT」训练框架。不到12小时GitHub星标破4.2k。约8000行代码，花100美元、4小时就能训练出专属「小ChatGPT」。
转译：AI 为啥这么爱用破折号？
文章探讨AI爱用破折号的原因，指出让模型不用破折号很难。分析了几种解释，如从训练数据学来、因“万金油”特性、受RLHF工作者方言影响等，认为训练数据混入大量纸质扫描书是最可能的原因。
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
从衣服到饰品：OmniTry 实现珠宝、包袋等多类可穿戴物品的虚拟试穿
Kunbyte提出OmniTry，将VTON从服装扩展到任意可穿戴物品，采用无掩码设定。它经两阶段处理流程训练，在12种常见物品类别评估中表现优，有扩展潜力，但也存在训练数据类别限制等局限。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。