「预训练数据精炼」共找到 3922 篇相关文章
腾讯提出SPO，告别Group
腾讯团队提出Single - stream Policy Optimization（SPO），回归单流策略梯度范式，解决组基方法瓶颈。它有多项亮点，如告别组同步、采用自适应价值跟踪等，在实验中提升了模型性能和训练吞吐。
刚刚，谷歌摊牌：Genie 3让你1秒「进入」名画，人人可造交互世界！
谷歌新发布Genie 3世界模型，能从文本生成交互式AI空间世界，操控图像和视频。用户可进入《苏格拉底之死》《夜游者》等名画探索，还能利用它训练3D模型，实现沉浸式体验。
砍掉70%内存！陈丹琦团队破解LLM长文本瓶颈
大型语言模型处理长文本时，KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺，推出分块驱逐与PruLong训练技术，在128K长文本任务中最高降低70%内存，性能损失仅10%。
The Batch：829 | DeepSeek 是怎么做到的
DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。
说句话就能飞！北航发布语言交互的无人机控制模型
北航刘偲教授团队提出语言引导的细粒度无人机轨迹控制研究框架，定义Flow范式。采用模仿学习法让无人机响应指令，构建数据集和仿真评测基准，还提出协作策略和算法，实现真机部署。
告别直接生成，文生图进入Agent时代：港中文联合伯克利开源Gen-Searcher
过去文生图多是‘直接出图’，遇真实世界知识等易翻车。港中文等团队提出Gen - Searcher，让图像生成模型像Agent一样搜索等，数据、模型和代码均已开源，实验显示它提升了生图准确性和质量。
我们对 Coding Agent 的评测，可能搞错了方向
用户对 Agent 不满常因它「做得不好」，不遵循指令和规范。当前主流评测体系以结果为导向，与真实场景错位。MiniMax 开源 OctoCodingBench 评测集，结果显示模型过程规范遵循不足，未来训练需引入过程监督。
人形机器人控制新突破！敏捷稳定两不误，一个策略让人形机器人完成叶问蹲和跳舞｜港大&英伟达&清华
港大、NVIDIA和清华联合团队提出AMS统一人形机器人全身控制框架，首次在单一策略实现动态运动跟踪和极限平衡控制。通过异构数据源、混合奖励机制和自适应学习策略，解决数据限制和优化目标冲突问题。
Browser Use 推出 Code Use：直接用代码控制浏览器
Browser Use 发布 0.9.0 版本，推出专为爬取数据设计的 Code Use。它开发特殊 Agent 和定制 LLM 输出特定代码，通过 CDP 直接操控浏览器，效率和准确性理论上更高，还给出使用示例，同时提醒了安全问题。
告别随机性：Thinking Machines Lab如何实现了LLM推理的完全确定性？
文章指出LLM推理非确定性根源并非GPU并发和浮点非结合性，而是批大小变化致核函数非不变性。作者提出实现批不变操作的策略，实验验证有效，还阐述其对训练、系统可靠性等方面的意义。