「强化预训练」共找到 2553 篇相关文章
刚刚，智谱和华为搞波大的：中国首个国产芯片训练出的SOTA多模态模型！
智谱与华为合作开源新一代图像生成模型GLM-Image，是中国首个全程用国产芯片训练的SOTA多模态模型，擅长文字渲染，拿下多项榜单第一，API调用一张图只要0.1元，还解析了其技术架构。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
LeCun世界模型出2代了！62小时搞定机器人训练，开启物理推理新时代
Meta开源发布V-JEPA 2世界模型，图灵奖得主Yann LeCun称其将为机器人技术带来新时代。该模型能理解物理世界，经训练后在多方面表现优异，Meta还发布新基准测试，也透露了后续计划。
大模型“精细化”对齐，真实性提升25.8%刷新SOTA！token级精准编辑，无需训练即插即用
北航团队在EMNLP 2025提出Token - Aware Editing (TAE)方法，从token层面解决传统表征编辑技术问题，无需训练、即插即用，在多个对齐维度显著提升，如在TruthfulQA任务上真实性指标提升25.8%。
OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证
OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。
单卡4090也能高质量视频编辑！西湖AGI Lab无训练框架FlowDirector来了
视频编辑门槛高、现有方法开销大且效果不佳。西湖大学AGI Lab团队提出无需训练的FlowDirector框架，可将基于流的视频生成模型改造成编辑工具，质量高、功能广、开销低，解决了时序、结构和编辑幅度问题。
大模型是「躲在洞穴里」观察世界？ 强化学习大佬「吹哨」提醒LLM致命缺点
加州大学伯克利分校副教授、强化学习大牛Sergey Levine在博客指出，当前大语言模型（LLM）只是对人类大脑和思维的间接「扫描」，如同被困洞穴看人类智慧「投影」，无法代替真正思维。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
人脑细胞做成芯片打Doom！20万活体神经元自己探路杀敌，学习效率碾压深度强化学习
20万人类脑细胞组成“脑PU”学会玩《毁灭战士》，代码已开源。研究将活体神经元与三大强化学习算法对比，发现生物培养物学习效率全面超越算法。实验运行在Cortical Labs的CL1生物计算机上，团队邀开发者探索更多可能。