搜索：自监督预训练

「自监督预训练」共找到 3100 篇相关文章

RL在Agentic Reasoning中的作用：拨开迷雾，看清本质

近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。

大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。

原力灵机发布《Realtime - VLA V2》技术报告，在VLA控制下让机器人快速运动。实现数倍于遥操作采集训练数据的速度执行VLA，解决了遥操作数据采集、时序延迟等问题，还通过“油门式采集”提升速度，但离人类性能仍有差距。

北京中关村学院等联合发布生成式基因组大模型Carbon并开源。Carbon家族有三个版本，旗舰模型Carbon - 3B在多任务匹敌70亿参数的Evo2 - 7B，运行速度快275倍。它在数据、分词、训练上有创新，还实现技术普惠，有多种应用场景。

9日WAVE SUMMIT深度学习开发者2025大会上，文心大模型X1.1发布，事实性、指令遵循、智能体能力显著提升，多项测试表现佳。它能做到知识一致，精准遵循指令，智能体解决问题出色，代码、数学、多模态能力也有进化，得益于迭代式混合强化学习训练框架。

3月4日凌晨，阿里Qwen团队技术负责人林俊旸宣布离职，同一天Qwen后训练负责人郁博文也正式离职。阿里刚开源Qwen 3.5小尺寸模型获马斯克点赞，此时核心团队出走引发关注。林俊旸离职或因团队分拆、管理范围缩小及“开源”与“闭源”的矛盾。

本文是腾讯程序员探索 AI Agent 开发的经验分享。他从手动管理多终端的困境出发，介绍了突破并发上限、以代码优先解决 AI 需求、避免 Vibe Coding 翻车等内容，还阐述了 24h 打工人系统构建及 Agent 自举，最后探讨行业协议和 Goal-Driven 模式。

具身智能行业数据是关键卡点，海量数据中能用于训练具身模型的数据稀缺。智域基石提出“数据编译”理念，搭建包含五个环节的管线。该公司已获数千万元天使轮融资，成立4个月订单近亿元，从工业场景切入，规划了三阶段发展路径。

本文报道汉朔科技联合X-Era Lab（拓元智慧），依托汉朔全球近7万家门店的电子价签数字化底座，结合拓元自研原生世界动作模型VWA，探索具身智能在零售门店盘点、巡检、补货场景的商业化落地，验证具身智能能否从演示Demo转化为稳定运行的生产级系统。

普林斯顿大学助理教授刘壮在访谈中指出，架构没那么重要，数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节；当前数据集远不够多样；大语言模型有语言空间的世界模型，但视觉空间的还缺失；记忆是瓶颈，智能体只是权宜之计；AI目前还替代不了研究生。