「WAM×RL×DATA」共找到 326 篇相关文章
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
马斯克Grok 4.1双冠封王，爆冲第一！AI王座一夜易主
马斯克携xAI推出Grok 4.1并免费开放。它在LMArena和EQ - Bench登顶，写作Elo提升600分、幻觉率降3倍。后训练RL规模扩大，还经盲测评估，在多方面表现出色。
调整训练数据出场顺序，大模型就能变聪明！无需扩大模型/数据规模
微软亚洲研究院提出全新文本数据组织范式DELT，通过引入数据排序策略，充分挖掘训练数据潜力，优化训练数据的组织方式，在不同模型尺寸与规模下都达到了良好性能，且不用增加数据量或扩大模型规模。
LLM抢人血案：强化学习天才被挖空，一朝沦为「无人区」！
斯坦福AI+CS博士Joseph Suarez回顾强化学习历史，指出其曾因学术短视、学界追名逐利走向衰落。如今他坚持用小模型从零开始的RL，重建标准，让研究速度和效果大幅提升。
合成数据>人工数据，绝对性能暴涨超10个点！仅需任务定义，高效微调大模型
为解决基础模型在专业领域表现不佳、依赖人工标注数据的难题，北大、MIT等机构提出「合成数据强化学习」框架。该框架仅需任务定义，能生成合成数据微调模型，在多领域基准上性能提升显著，代码已开源。
告别通用具身模型崇拜：具身智能走向异构策略编排
当VLA、WAM等机器人控制策略在各自任务中表现出色，如何为子任务匹配合适策略成完成复杂长时序任务关键。RoboHarness解决异构策略协同难题，通过协同调用策略提升成功率。
打破数据质量鸿沟！清华腾讯Bee项目发布1500万高质量数据集，刷新MLLM全栈开源SOTA
全开源多模态大模型性能被闭源和半开源模型“卡脖子”，根源在于数据质量。清华与腾讯混元团队推出Bee项目，有三大核心贡献，产出的Bee - 8B模型表现领先，证明保证数据质量比堆量更有效。
EMNLP2025 | 揭开LLM训练数据中的中文污染真相，有比“您好”高2.6倍的token？
近年来，大型语言模型虽成功，但训练数据易混入不良内容。论文《Speculating LLMs' Chinese Training Data Pollution from Their Tokens》探索此问题，定义PoC Token，开发PoCDetect和PoCTrace工具，揭示LLMs训练数据污染情况。
LLM学习笔记：最好的学习方法是带着问题去寻找答案
文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。
The Batch: 884 | Transformer获得新能量
弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。