搜索：视觉自监督学习

「视觉自监督学习」共找到 1998 篇相关文章

NeurIPS25高分论文｜以判别式监督学习强化推理LLM，解决难度偏差和熵崩塌难题

德州农工大学博士生李港在NeurIPS25高分论文中，分析GRPO优化目标，发现难度偏差局限及与判别式监督学习联系，提出DisCO框架强化大型推理模型，其优势显著，实验表现优于GRPO及其变体。

国防科大、深圳大学、武汉大学团队提出物理驱动的世界模型PIN - WM，能从视觉观测辨识刚体物理属性。还提出PADC提升迁移性能，经实验验证其在非抓握式操作技能Sim2Real迁移中表现出色。

大模型推理能力研究中，RL训练资源成本高、不稳定，传统SFT低数据量易过拟合。加拿大滑铁卢大学华人团队提出One - Shot CFT方法，用一题多解多点评训练，仅需约5个GPU小时，效果好、稳定性强。

视觉 - 语言 - 动作模型（VLA）是机器人操作重要基础模型，但复杂任务成功率低，真机强化学习成本高。微软等机构研究者提出 UniSteer，将人类纠正转换成噪声监督，在多任务测试中提升了成功率。

当前VLM智能体面对复杂视觉任务表现不佳，美国西北大学等机构联合研究成果VAGEN，提出创新强化学习框架，奖励正确思考过程，让VLM在行动前构建内部世界模型，效果超多款闭源大模型。

本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。

无监督的熵最小化（EM）方法仅需一条未标注数据和约10步优化，就能显著提升大模型在推理任务上的表现，甚至超越依赖大量数据和复杂奖励机制的强化学习（RL）。EM为大模型后训练提供了更高效简洁的新思路。

文章引入 SceneSplat，首个在 3DGS 上原生运行的端到端大规模 3D 室内场景理解方法，提出自监督学习方案，构建发布 SceneSplat - 7K 数据集，在多个实验中达 SOTA 效果。

多模态大模型代码能力进步大，但基础视觉任务常失误。UniPat AI开源SWE-Vision框架，让模型用Python代码处理视觉判断。它极简设计，在五个视觉基准测试达最优，提升前沿模型视觉表现。

伯克利等机构发布FST框架，通过快慢分层解决大模型持续学习死局。过去两年头部实验室都在提升模型推理能力，却忽视持续学习。FST让模型像大脑一样快慢分层，提升数据效率、减少遗忘，使持续学习可工程化。