「持续预训练」共找到 2561 篇相关文章
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。
4个MIT的00后，两年干出全球最火AI编程工具，600亿美元卖给了SpaceX
今年1月，Cursor CEO Michael Truell决定训练自有模型，不再依赖Anthropic的Claude。5个月后，SpaceX以600亿美元收购Cursor母公司。此前Cursor增长快但依赖Claude，自研模型有成本优势却缺算力。
高潮从第几秒开始？GaMMA 让多模态大模型真正「听懂」音乐时间线
现有多模态大模型难以理解音乐时间线。复旦大学与字节跳动团队提出 GaMMA，采用双编码器融合网络，经三阶段训练，还推出 MusicBench 评测基准。实验显示，GaMMA 在多基准上表现优异，刷新 SOTA。
Codex 推出 /goal 功能，不达目标，不罢休
OpenAI 为 Codex CLI 新增 `/goal` 功能，目标跨轮次保持活跃，在同一个会话持续循环。它有防护机制，防止在无意义事上空转。虽然是实验性功能有局限，但改变了人和 AI 的协作界面。
别养龙虾了，硅谷Agent新潮流是「爱马仕」
免费开源的Hermes Agent上线一个月霸榜GitHub Trending，标星超6.66万。它强调持续学习和自我进化，能自动提炼可复用技能。安装门槛低，支持多系统，还原生支持个人微信。
统一视觉多模态与多任务！快手可灵与港科大团队发布视频生成模型，加速真实世界理解
港科大、港中文、清华和快手可灵团队提出全新视觉框架UnityVideo，统一训练多种视觉模态，让模型更懂物理规律，视频生成更真实可控，还实现零样本泛化，在多任务表现优异。
公开模型一切，优于DeepSeek-R1，英伟达开源Llama-Nemotron家族
英伟达推出面向高效推理的 Llama-Nemotron 系列模型，包括 Nano、Super、Ultra 等规模，具备卓越推理能力与效率，采用开放许可。模型支持动态推理切换，训练结合多方法，性能优于 DeepSeek-R1 等。
用Codex做跨境电商：第九章
文章讲述用Codex做跨境电商时，五条工作流跑通后业务仍会遇问题，而业务系统能让前后任务相连。其是持续经营机制，通过五步让本周之事影响下周做法，还结合案例说明如何操作。
第六章 Coding优先编的是「过程与约束」,不是「参数」
本章以开面包店类比训练大模型，介绍 AutoResearch 自主实验框架。它将研究生助理工作循环交给 Agent，在固定时间用单一指标判断好坏。仓库获约 64.7K Stars，Karpathy 设计哲学为极简主义与固定约束。
GenEnv：智能体与环境模拟器之间的难度对齐协同进化 | 直播预约
训练高性能 LLM 智能体受限于真实世界交互数据的成本和特性，为此推出 GenEnv 框架，它建立难度对齐协同进化博弈，能让智能体表现提升，减少数据使用量，为扩展能力提供数据高效路径。