「训练数据污染」共找到 3910 篇相关文章
不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B
上海人工智能实验室与中国人民大学提出GRA框架，以“多人协作”理念让小模型分工生成高质量训练数据。实验显示其生成数据质量高，项目已开源。它打破对大模型蒸馏依赖，展现“集体智能”潜力。
SOTA级的Embedding模型！F2LLM模型、数据、代码全部开源，人人可用
Embedding 模型应用广泛，但主流模型训练困难。蚂蚁集团与上海交大推出 F2LLM，含 0.6B、1.7B、4B 系列模型，仅用六百万数据微调基座，在 MTEB 榜单领先且完全开源。介绍了其数据、训练、测评等情况。
手术刀式去噪突破LLM能力上限，从头预训练模型下游任务平均提高7.2% | 中科院＆阿里
中科院计算所与阿里Qwen等团队联合提出RefineX框架，通过程序化编辑任务实现预训练数据精炼。它将专家指导结果蒸馏为删除程序，训练优化模型。用其净化数据训练模型，下游任务平均提高7.2%。
对话际数科技联创：质量赛道的先驱者，要做空间数据的「精炼厂」
本文是对际数科技三位联合创始人的访谈。在具身智能时代数据采集火热但数据荒严重背景下，际数关注数据质量，其以测绘背景为底气，用‘一张图、一把尺、一个飞轮’搭建技术护城河，打造质量因子库，还创新训练质量模型，有稳定商业路径。
哈萨比斯出的难题，GPT之父接上了：用一个知识停在1930年的模型
GPT之父Alec Radford等用1931年前数据训练13B模型Talkie，切断现代知识污染。研究者测试其能力，探讨它对未来的“预感”、规避污染问题及数据多样性等，同时训练中也面临时间泄漏、数据质量等难题。
终结数据荒！智源开源首个Deep Research数据合成框架InfoSeek
在大模型深度研究中，高质量数据是短板。近日，智源研究院发布首个面向深度研究的开源数据集InfoSeek，提出「扩散 - 回溯」数据合成方法，用3B模型在基准测试中接近商业模型表现，且数据集可扩容。
0 融资、10 亿美元营收，数据标注领域真正的巨头，不认为合成数据是未来
Surge AI创始人Edwin Chen接受访谈，提出创业应解决问题而非融资，合成数据被高估，高质量数据才是壁垒。他还指出大语言模型竞技场误导训练方向，人类反馈永不过时，数据质量是AI发展首要瓶颈。
超越人类标注，Meta提出CoT-Self-Instruct：如何用"推理式自进化"重塑LLM训练
大语言模型发展需海量高质量训练数据，传统人工标注困境重重，现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct，通过推理式自进化生成数据，实验证明其在多个任务上超越人类标注数据。
从 “管好数据” 到 “让数据生智”，华为再发新作《数据空间探索与实践》| 文末赠书
2025年11月15日，机械工业出版社牵头举办研讨会，庆祝《华为数据之道》发行五周年及《数据空间探索与实践》上市。行业大咖齐聚，共话数据治理演进，两书为行业提供了有价值的参考。
清华&通院推出"绝对零"训练法，零外部数据大模型自我博弈解锁推理能力
清华、北通院和宾州州立大学研究人员提出“绝对零”训练法，让大模型通过自我博弈生成并解决任务获推理能力。测试显示，其训练出的模型超专家标注样本训练的模型，且能提升编程与数学推理表现。