「强化预训练」共找到 2567 篇相关文章
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
原力灵机发布Realtime-VLA V2：从遥操作到真实部署，VLA提速的系统解法
原力灵机发布《Realtime - VLA V2》技术报告，在VLA控制下让机器人快速运动。实现数倍于遥操作采集训练数据的速度执行VLA，解决了遥操作数据采集、时序延迟等问题，还通过“油门式采集”提升速度，但离人类性能仍有差距。
社区供稿 | Hugging Face x 北京中关村学院等机构联合发布生成式基因组大模型Carbon：一场关于“生命语言”的范式革命
北京中关村学院等联合发布生成式基因组大模型Carbon并开源。Carbon家族有三个版本，旗舰模型Carbon - 3B在多任务匹敌70亿参数的Evo2 - 7B，运行速度快275倍。它在数据、分词、训练上有创新，还实现技术普惠，有多种应用场景。
为什么林俊旸会离职？ | 甲子光年
3月4日凌晨，阿里Qwen团队技术负责人林俊旸宣布离职，同一天Qwen后训练负责人郁博文也正式离职。阿里刚开源Qwen 3.5小尺寸模型获马斯克点赞，此时核心团队出走引发关注。林俊旸离职或因团队分拆、管理范围缩小及“开源”与“闭源”的矛盾。
具身智能最“脏”的活，被三个老炮干成了亿元生意｜甲子光年
具身智能行业数据是关键卡点，海量数据中能用于训练具身模型的数据稀缺。智域基石提出“数据编译”理念，搭建包含五个环节的管线。该公司已获数千万元天使轮融资，成立4个月订单近亿元，从工业场景切入，规划了三阶段发展路径。
大模型手语翻译新进展：CAPO-SLT拿下中文三项最高分 | EMNLP'26
vivo AI Lab团队针对自动手语翻译生成中，无视觉证据支撑的错误累积导致语义偏移的痛点，提出置信度感知策略优化方法CAPO-SLT，仅调整强化学习更新规则，不修改主干网络，在中文手语翻译测试中拿下三项指标最高分，成果将发表于EMNLP'26。
10万引普林斯顿刘壮最新访谈：架构没那么重要，数据才是王道
普林斯顿大学助理教授刘壮在访谈中指出，架构没那么重要，数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节；当前数据集远不够多样；大语言模型有语言空间的世界模型，但视觉空间的还缺失；记忆是瓶颈，智能体只是权宜之计；AI目前还替代不了研究生。