搜索：两阶段后训练方法

「两阶段后训练方法」共找到 3662 篇相关文章

以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能

dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。

Cursor放出Composer 2技术报告力证‘自研’，基于Kimi K2.5经持续预训练和异步强化学习，测试表现好。同时，杨植麟分享Kimi团队最新思考，认为大模型要规模化，断言大模型训练进入第三阶段。

文章介绍字节跳动的Seed1.5-VL模型，它能精准抽取复杂图表，处理模糊图片、推理几何题。其由视觉编码器和LLM组成，预训练语料丰富，后训练结合多种方法，推荐在huggingface体验。

普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。

本研究提出基于物理信息神经算子的LESnets方法，用于快速模拟粗网格上三维湍流时空演化。不使用标签数据，训练两种神经算子，验证了其有效性和泛化能力，效率显著优于传统方法。

英伟达Llama - Nemotron系列模型超越DeepSeek - R1且全部开源。论文揭秘其训练关键，如用合成数据监督微调与强化学习等。还介绍构建阶段、架构设计等，评估显示该系列模型在多任务表现出色。

无监督的熵最小化（EM）方法仅需一条未标注数据和约10步优化，就能显著提升大模型在推理任务上的表现，甚至超越依赖大量数据和复杂奖励机制的强化学习（RL）。EM为大模型后训练提供了更高效简洁的新思路。

大语言模型发展需海量高质量训练数据，传统人工标注困境重重，现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct，通过推理式自进化生成数据，实验证明其在多个任务上超越人类标注数据。

近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。

现有AI训练方法在GUI自动化中各有弊端，本文提出半在线强化学习范式，训练出UI - S1 - 7B模型，性能提升显著，还提出新评估指标SOP，是迈向实用化AI智能体的重要一步。