「训练数据污染」共找到 3948 篇相关文章
投奔小扎，Jason Wei连发两篇博文公布“屠龙术”：一个公式看透AI，一条心法指引人生
OpenAI研究科学家Jason Wei被小扎挖走后连发两篇文章。一篇提出“验证者定律”，指出训练AI解决任务难易与可验证性成正比；另一篇从强化学习悟到人生要走On - Policy路线，发挥自身优势。
LiteReality来了！用一张扫描图还原真实3D世界
剑桥大学提出 LiteReality，可将室内 RGB - D 扫描数据转为 3D 虚拟副本，支持多种图形渲染功能，适用于多领域。它通过多步骤流程重建场景，还引入新框架解决材质恢复问题，但也存在依赖人工等局限。
Meta最新大模型RL微调：在线DPO/GRPO显著优于离线DPO
Meta和NYU研究强化学习在大模型微调中的有效性，对比离线、半在线和在线训练范式。半在线和在线显著优于离线，多任务结合可验证与不可验证任务能提升性能，还给出不同任务的测试数据。
GPT-5难产内幕曝光！核心团队遭挖空，推理魔咒难破，靠英伟达续命
外媒The Information曝出GPT-5诞生内幕，其未取得技术突破，OpenAI面临数据瓶颈与技术难题，核心研究者被撬导致组织架构混乱。不过，OpenAI获巨额融资，推理模型成突破口，还在开发“通用验证器”。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
专为小说、角色扮演等而生：元象开源泛娱乐场景底座模型
元象作为AI与3D技术服务公司，此次开源XVERSE-Ent系列中英双语大模型。它采用MoE热启动技术与三阶段训练策略，解决泛娱乐场景痛点，适配多元语境，有高部署性价比，为行业提供泛娱乐AI解决方案。
鼠标的未来是手环？解码肌肉信号，Meta黑科技登上Nature
Meta推出非侵入性神经肌肉交互系统，利用手腕表面肌电图（sEMG）实现人机交互，该技术登上7月24日的Nature。实验在连续手势控制、离散手势控制和打字三个任务评测效果不错，适合特殊人群，也能弥补脑机接口数据不足。
GPT-4V仅达Level-2？全球首个多模态通才段位排行榜发布，General-Level打造多模态通用AI评测新范式
General-Level团队提出全新评测框架General-Level和数据集General-Bench，构建超大规模评测基准和多模态通才模型排行榜。其用五级段位体系衡量模型通才能力，General-Bench覆盖多模态任务，排行榜分多层次榜单，目前各模型段位差异大，Level-5空缺。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
拖更三年，北大校友翁荔最新长文刷屏！
前OpenAI副总裁Lilian Weng发布拖更三年的长文《Scaling Laws, Carefully》，指出AI行业依赖的Scaling Laws远比想象脆弱。OpenAI和DeepMind对算力分配结论相反，且Chinchilla方法论也有问题，同时数据快用完，经典公式前提在崩塌。