搜索：训练数据污染

「训练数据污染」共找到 3919 篇相关文章

告别数据「噪音」，UCSD大模型推理新方法DreamPRM充当「信号放大器」，登顶MathVista测评榜

DreamPRM由加州大学圣地亚哥分校团队开发，在MathVista测评榜夺冠。它通过双层优化框架解决多模态过程奖励模型训练难题，能与多模态大模型集成，提升推理能力，实验效果显著。

大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。

DeepSeek 发布围绕 DeepSeek-V3 的技术论文，从硬件架构和模型设计双重视角，探讨实现经济高效的大规模训练和推理的方法。介绍了 DeepSeek-V3 的创新设计，如 DeepSeekMoE 架构、MLA 架构等，还给出未来硬件架构设计建议。

本文是对鹿明CTO丁琰的访谈。丁琰博士最早将UMI落地实践，其数采方案「FastUMI」受青睐。他认为UMI是完整体系，数据会反向影响多方面。还对比多种数采方式，介绍FastUMI改进及Pro版优势。

科研等领域图表是信息核心载体，先进开源MLLMs在高难度图表理解测试准确率低。本文提出ECD数据集，规模大、质量高、风格多样，还设计合成流水线与评测基准ECDBench，为开源MLLM提供支持。

CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。

受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。

近期，RAE 提出以「冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE，结合 RAE 与 VAE，能加速模型收敛、提升生成质量，展示扩散模型 Tokenizer 演化方向。

深势科技推出玻尔·跃迁实验室，解决传统实验室设备割裂、经验依赖、数据离散、部署低效等痛点，围绕计算 - 实验 - 数据 - 计算无缝闭环底层重构，与传统 ELN/LIMS 不同。

上海AI Lab的OpenDataLab团队通过大规模实验剖析可验证强化学习（RLVR）在多领域推理中的机制，发现逻辑与数学数据相互支持、代码推理有跨领域混合效应等，为构建AI推理模型提供关键发现。