搜索：两阶段监督微调

「两阶段监督微调」共找到 1090 篇相关文章

CVPR 2026 | 1000万段驾驶视频，教会模型如何估计相机位姿

Wayve的LA - Pose研究，不依赖百万级3D标注，从约1000万段未标注驾驶视频自监督学习‘潜在动作’，再用少量3D标注微调，转化为相机位姿估计能力，在多基准上提升精度且泛化能力强。

复旦开源的OpenOCR是面向通用OCR任务的开源平台，其OpenDoc是超轻量文档解析系统。它采用Pipeline模式，两阶段解析不易放大误差。UniRec - 0.1B有独特架构与分层监督训练等创新技术。

VLA-R1是“先推理、后执行”的VLA基础模型，结合链式思维监督与强化学习，优化推理和执行。它有两阶段训练、三类可验证奖励等创新点，经多层面测试效果好，在多领域有应用前景。

随着视觉 - 语言模型（VLM）推理能力增强，‘看错’问题凸显。现有方法有局限，微软亚洲研究院与清华提出BiPS，从训练阶段重塑模型‘看图方式’，通过‘一拉一推’机制让模型‘看全又准’，实验效果显著。

在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。

Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。

Meta训出70亿参数「视觉巨兽」DINOv3并完全开源。它用自监督学习，无需人工标注，可生成强大图像特征，在多任务超专用方案，NASA已用其探索火星，还能推动多行业进步。

弗吉尼亚理工大学研究团队提出 LensLLM 框架，基于 PAC - 贝叶斯泛化界限揭示 LLM 微调性能“双相演进”，可精准预测微调性能、大幅降低计算成本，为 LLM 选型提供新工具。

弗吉尼亚理工大学研究人员推出选型框架LensLLM，可预测微调后性能走势，解释大模型微调“玄学现象”。它基于全新PAC - Bayes泛化界限推导，降低成本近90%，被ICML 2025收录。

新智元报道，NUS、UT Austin等机构研究人员提出「拖拽式大语言模型」（DnD），它基于提示词生成模型参数，无需微调适应任务，效率最高提升12000倍，零样本泛化能力出色。