「预训练数据精炼」共找到 3915 篇相关文章
从像素空间走向数据流形：生成模型的对抗净化新范式 | TPAMI'26
深度神经网络虽应用广泛，但对对抗样本脆弱，制约可靠部署。本文介绍发表于TPAMI 2026的工作，提出基于一致性模型的对抗净化方法（CMAP），实验表明其在不同场景下鲁棒性强，为对抗防御提供新视角。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。
Cursor滑跪开源技术报告：Kimi基模这样微调能干翻Claude
Cursor放出Composer 2技术报告力证‘自研’，基于Kimi K2.5经持续预训练和异步强化学习，测试表现好。同时，杨植麟分享Kimi团队最新思考，认为大模型要规模化，断言大模型训练进入第三阶段。
翁荔陈丹琦加盟的840亿AI公司，公开第二篇论文
明星创业公司Thinking Machines公开第二篇研究论文，主题为“Modular Manifolds”，通过统一框架约束和优化网络不同层/模块，提升训练稳定性与效率。论文提出模块化流形思路，若应用于大模型，训练效率和稳定性将大幅提升。
告别人工干预！KDD Cup 2026 Data Agents 赛道：定义下一代数据智能体能力边界
KDD Cup 2026 发布 Data Agents for Complex Data Analysis 赛道，由香港科技大学（广州）和清华大学联合承办。旨在推动 AI 告别人工干预，具备自主任务分解等能力，还推出 DataAgent - Bench 测试平台，有丰厚奖励，公布关键时间节点。
付费Mathpix公式识别不香了~不要钱舒服！
复杂科学文献中公式识别问题重要，但现有模型有局限。DocTron - Formula通过简单微调在多场景达先进水平，还引入CSFormula数据集。它基于Qwen2.5 - VL微调，在多个数据集上效果佳。
Ilya交卷！黄仁勋砸50亿押注SSI，首个模型疑本周发布
Ilya Sutskever创立的SSI或本周发布首个重磅模型，引发圈内关注。英伟达砸50亿美元合作，提升其算力。该模型基于测试时训练架构，能边学边进化，或终结大模型“预训练时代”。
两个Ilya的宿命轮回：老黄10亿美金开启赛博修仙！
OpenAI花1亿美金买Torch做「数据转接头」，想让ChatGPT成全科医生；Claude用超长文本窗口处理医学文献和数据。而NVIDIA投10亿与药企建实验室，用BioNeMo重写生命，开启药物生成新纪元。
首个地球科学智能体Earth-Agent来了，解锁地球观测数据分析新范式
上海人工智能实验室与中山大学联合研发的 Earth - Agent 解决了多模态大语言模型用于地球科学研究的痛点。它将领域知识工具封装化，利用 LLM 智能规划调度。经 Earth - Bench 评估，其在多方面表现出色，未来发展前景广阔。
刷新世界记录！40B模型+20万亿token，散户组团挑战算力霸权
Nous Research推出Psyche网络，用区块链汇聚全球计算资源，启动40B参数大语言模型Consilience预训练，达20万亿token创纪录。还解决带宽瓶颈等问题，让AI训练去中心化，推动创新与民主化。