搜索：预训练数据精炼

「预训练数据精炼」共找到 3934 篇相关文章

一篇大模型Agentic框架到应用最新综述

这是首篇系统拆解“大模型Agentic推理框架”的综述，不聊训练，只聚焦如何把LLM组织成会思考、协作、调工具的Agent，横跨科学发现、医疗、软件工程、社会经济模拟四大战场，给出统一语言、视角和评测。

新智元报道，OpenAI前CTO创办的Thinking Machines Lab发布研究「模块流形」，将传统数值修正转为「预防式」约束优化。它提出新范式，为训练大模型提供新思路，还介绍了流形优化器及相关算法。

美国法官Amit Mehta裁定谷歌不必出售Chrome浏览器和剥离Android操作系统，但须与对手共享搜索数据、禁止签独家分销合同。判决让谷歌和投资者松口气，AI崛起影响判决走向，谷歌还面临广告技术垄断诉讼。

Cornell大学兼Meta研究员jack morris成功将OpenAI最新开源的推理专用模型GPT-OSS逆向还原成基础模型，绕过对齐和安全措施，还暴露其训练用大量版权材料问题，此成果引发社区激烈讨论。

人大、斯坦福等机构提出MoCa框架，将单向视觉语言模型转化为双向多模态嵌入模型。它通过持续预训练和异构对比微调，解决传统模型局限，在多模态基准测试中表现优异，尤其小规模模型性能突出。

6月12日，夸克发布国内首个高考志愿大模型，上线‘高考深度搜索’等三大核心功能。其‘志愿报告’以Agent运行，能输出完整报告；模型经多阶段训练，搭载最大高考知识库，为考生提供精准志愿填报服务。

语音合成技术在大语种发展好，但小语种因语料稀缺等面临挑战。逻辑智能团队提出针对低资源语言TTS的解决方案，构建泰语数据集，经先进预处理，其TTS模型效果好，有零样本克隆能力。

AI正改写数据库命题，新数据对象进入生产链路，AI Agent带来更复杂任务链路。在腾讯云数据库DBTalk上，三位研究员从不同方向探讨当负载被AI改写，数据库该如何重新设计，包括内核优化、资源管理和测试测评等方面。

英伟达公布下一代旗舰级机柜Vera Rubin NVL72片上实测数据，用DeepSeek - V4 - Pro跑任务，每兆瓦吞吐量最高升30倍、Token成本最高降35倍。还宣布Groq 3 LPX量产，推出Agent专属Vera CPU，被SpaceXAI采用。

周二晚间，Andrej Karpathy在X上自宣加入Anthropic，将在核心预训练团队工作。他是AI领域极具影响力人物，曾任职OpenAI、特斯拉等。此次加入或助推Anthropic上市，也让OpenAI面临压力，或引发新一轮AI军备竞赛。