「预训练数据精炼」共找到 3917 篇相关文章
刚刚，DeepSeek全新多模态技术开源！
DeepSeek联合北大、清华开源多模态技术及论文，提出“视觉基元推理”框架，解决MLLM指代鸿沟问题。基于DeepSeek - V4 - Flash构建的模型，性能比肩GPT - 5.4等。论文还介绍架构、训练流程等。
1M 参数干翻 200M！时序预测选模型，你可能一直都选错了
近期时序预测领域新模型频出，作者开源的 QuitoBench 显示，参数量仅 1M 的 CrossFormer 击败大模型夺冠。它还揭示模型选择与历史数据长度有关，且数据边际收益高于参数。
微软研究院BioEmu登上Science，用生成式AI重塑蛋白质功能研究
7月10日，微软研究院AI for Science团队在《Science》发表成果，提出生成式深度学习模型BioEmu，结合多类数据训练，能模拟蛋白构象变化，有多项核心创新，已开源，未来将拓展应用场景。
3年手搓ChatGPT！剑桥天才少年在Minecraft游戏中爆火回归
MC大神sammyuri时隔3年发布新作，在MC中复刻ChatGPT，名为CraftGPT。虽参数量小，但用Transformer架构，能和用户交互。模型训练用Python和小数据集，视频存档公布助理解原理。
QwenLong-L1.5发布：一套配方，三大法宝，让30B MoE模型长文本推理能力媲美GPT-5
通义文档智能团队推出QwenLong - L1.5长文本推理专家，提供端到端长文本推理后训练“配方”，含数据合成管线、强化学习方法、智能体架构，在多基准测试成绩佳，代码已开源。
上海AI Lab新研究：SFT能泛化，只要满足这三个条件
上海人工智能实验室等团队研究指出，“SFT泛化能力差”定论有局限。SFT泛化能力受优化过程、数据质量与结构、模型基础能力共同制约，研究还揭示其训练中的现象及副作用。
QwenLong-L1.5发布：一套配方，三大法宝，让30B MoE模型长文本推理能力媲美GPT-5
通义文档智能团队推出QwenLong - L1.5，提供长文本推理后训练“配方”，含数据合成管线、强化学习方法和智能体架构。通过三大“法宝”重塑模型能力，效果显著，相关代码已开源。
阿里开源自主搜索AI Agent，搜论文、网站资讯无所不能
今天凌晨，阿里开源创新自主搜索AI Agent——WebAgent，具备端到端自主信息检索与多步推理能力。还介绍了WebDancer框架从数据构建到训练优化各阶段，助其完成复杂信息检索任务。
穿越100年前打造的AI，不知道二战和互联网，却从几个例子学会了Python
前OpenAI研究成员等打造出130亿参数的时代语言模型talkie，只用1930年前英文词元训练。它不知二战等现代信息，能从例子学Python，风格似20世纪绅士，研究团队将扩大其规模。
让视觉语言模型像o3一样动手搜索、写代码！Visual ARFT实现多模态智能体能力
上海交大等团队推出多模态智能体训练方法 Visual-ARFT，让视觉语言模型有「工具智能体」能力，还开源项目。它能自动调用工具、拆解任务，团队构建 MAT-Bench 评测，其在多任务超 GPT-4o。