「分布式RL训练」共找到 2261 篇相关文章
大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus
上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。
Meta详细阐述基于LLM级训练、混合并行计算与知识迁移的GEM广告模型
Meta发布生成式广告模型GEM详细信息，旨在改善平台广告推荐能力。它处理海量用户 - 广告交互数据，用三种方法构建系统，还实施GPU级优化，采用两种知识迁移策略，获业内人士认可。
图片生成仿真！这个AI让3D资产「开箱即用」，直接赋能机器人训练
南洋理工大学与上海人工智能实验室团队提出PhysX - Anything，首个面向仿真、具物理属性的3D生成框架。它仅需单张图像就能生成可用于仿真的3D资产，在多项测试中表现优异，有望推动3D重建范式转变。
Karpathy 回应争议：RL 不是真的不行，Agent 还需要十年的预测其实很乐观
Andrej Karpathy 在与知名播客主持人 Dwarkesh Patel 的对谈中指出当下 LLMs 研究进展、Agents 存在的实际问题，如‘AGI 仍需十年时间’‘LLM 认知有缺陷’‘强化学习很糟糕’等。他还对关键争议点做了补充回应，包括对 AGI 时间线、强化学习局限性等的看法。
字节开源终身记忆多模态智能体，长时记忆+RL，实测超Gemini‑GPT4o！
字节开源全球首个带终身记忆更新的全多模态智能体M3 - Agent，给其装上‘长期记忆’大脑。它构建实体记忆图谱解决现有Agent问题，架构含两个流程，代码实现有特色，跑分数据出色。
500美元刷新SOTA！训练成本砍到1/200，华人团队重构视频生成范式
香港城市大学等团队发布图像 - 视频生成模型Pusa V1.0，在基础大模型上引入VTA机制，用3860对视频 - 文字数据、约500美元微调，在I2V超越Wan - I2V - 14B实现SOTA，还解锁零样本任务能力。
Pokee.ai 朱哲清：用 RL 搭建智能体的「骨骼与神经」| AI 产品十人谈
《AI 产品十人谈》对话 Pokee.ai 朱哲清，探讨强化学习与 Agent。朱哲清是强化学习信徒，曾带领 Meta 团队突围。他认为单靠预测难完成复杂任务，强化学习是超人类智能的关键，介绍了 Pokee.ai 产品优势及对通用 Agent 的看法。
社交Agent: 通过RL学习自适应Thinking，根据场景在“秒回”和“深思”间灵活切换
现有聊天机器人在人情世故场景表现不佳，论文指出大模型思维‘一根筋’。研究团队设计4种思维模式，用AMPO强化学习算法动态切换。在模拟社交任务中，AMPO表现超GPT - 4，省时高效。
深度机智和他们的另一条路：用人类第一视角数据训练基座模型｜甲子光年
3月27日，深度机智联合推出具身通用智能基座模型系统PhysBrain 1.0，引入人类第一视角数据，解决传统模型问题。其创始人陈凯等坚持用此数据构建模型，突破传统，引领行业新方向，且中国在具身智能领域或借此建立自主技术体系。