「SFT阶段」共找到 780 篇相关文章
人大-清华-腾讯发布：音频 - 视觉多模态任务统一框架
人大、清华和腾讯合作发布Crab论文，目标是实现多模态场景理解任务的高效一统。它针对音频 - 视觉理解模型难点提出解决方案，构建数据集、设计LoRA结构、统一架构，训练分预训练和指令调整两阶段。
字节发了个机器人全能大模型，带队人李航
字节推出Seed，其Robix视觉—语言单模型能搞定机器人推理、任务规划和自然语言交互，核心采用思维链推理和三阶段训练策略，效果超Qwen2.5 - VL、GPT - 4o等，负责人是李航。
一篇LLM × DATA技术最新系统性综述
上交大、清华等联合发表综述，探讨LLM与数据管理双向关系，分析LLM不同阶段数据管理技术与挑战并给出方案，还讨论了LLM在数据管理任务中的应用进展，为研究和实践提供指导。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
任务级奖励提升App Agent思考力，淘天提出Mobile-R1，3B模型可超32B
现有Mobile/APP Agent依赖动作级奖励，难应对变化环境。淘天集团团队提出Mobile-R1框架，采用三阶段训练，结合任务级奖励，实验显示其表现超基准，团队还计划开源资源。
大模型哪里出问题、怎么修，这篇可解释性综述一次讲清
来自多机构的研究团队发布“可实践的机制可解释性”综述，通过 'Locate, Steer, and Improve' 三阶段范式，为大模型的对齐、能力增强和效率提升提供方法论，还梳理可解释对象体系和干预手段。
Google研究发现：Multi-Agent的核心竟然是Prompt设计！
Google和剑桥大学研究多智能体系统，发现提示设计影响大，有效拓扑结构占比小。提出Mass框架分三阶段优化，实验用Gemini 1.5 Pro和Flash模型，对比多种方法，在多任务上性能显著提升。
清华团队：1.5B 模型新基线！用「最笨」的 RL 配方达到顶尖性能
清华团队用两个 1.5B 模型证明，用最基础的 RL 配方可达到小模型数学推理能力 SOTA。单阶段训练加固定超参数实现 SOTA 性能且省一半算力，训练曲线还很平滑。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
字节跳动2步突破，复杂文档布局解析，为啥如此惊艳？
文章指出现有文档图像解析方案有局限，介绍字节跳动的Dolphin解决方案。它采用分析 - 解析范式分两阶段解析文档，避免传统方法弊端，运行效率高，还给出训练方案、实战代码和试用链接。