搜索：预训练数据 - AI Reading Hub

「预训练数据」共找到 3960 篇相关文章

华为发布如何利用RL训练强大的Deep Research Agent综述！

华为技术团队发布综述论文，首次系统性梳理利用强化学习（RL）训练强大的深度研究代理。论文指出传统SFT和DPO方法有局限，RL优势明显，还在数据构建、算法设计等方面给出进展与路线图。

文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。

Nature揭露AI爬虫疯狂「啃食」学术网站数据，致服务器瘫痪。DiscoverLife、BMJ等受影响，运营方难防「坏爬虫」，急需国际协议规范AI数据使用。

深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。

卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。

2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。

来自多机构研究者提出CoTo渐进式训练策略，解决LoRA训练难题。该策略在训练早期随机失活部分适配器，后期提高激活概率，提升模型融合、剪枝能力，还能增强单任务性能与训练效率，已被ICML 2025接收。

学术出版巨头爱思唯尔等多方原告起诉Meta，指控其未经授权获取、复制受版权保护的学术论文训练Llama大模型，数据源于Common Crawl和盗版平台。Meta以‘合理使用’抗辩，AI版权合法性尚无明确判例。

上海人工智能实验室OpenDataLab团队推出开放数据竞技场OpenDataArena，致力于将数据质量评估从“玄学”变为“科学”。它有数据评测榜单和完整可复现的数据价值验证体系，为多类需求提供解决方案，还开源了核心工具。

大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。