「预训练研究」共找到 3718 篇相关文章
ACL首届博士论文奖公布，华人学者李曼玲获荣誉提名
自然语言处理顶会 ACL 公布首届计算语言学博士论文奖，获奖者是华盛顿大学的 Sewon Min，其论文聚焦大型语言模型数据使用。此外，还有三篇论文获提名，包括李曼玲等学者的成果。
阿里开源电影级AI视频模型！MoE架构，5B版本消费级显卡可跑
阿里开源新一代视频生成模型通义万相Wan2.2，含文生视频等功能。它率先将MoE架构用于视频生成扩散模型，5B版本可在消费级显卡部署。对比前代和Sora表现更优，还推出电影级美学控制系统。
隐形束缚：RLVR为何无法突破LLM的推理边界？
大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。
快慢Reasoning综述！
大型语言模型在复杂推理任务中有‘无差别计算’缺陷，阻碍其在多场景应用。本文提出双层效率优化框架，梳理两类前沿技术，通过实验揭示瓶颈，为轻量化推理指明路径。
UIUC提出隐式监督新范式：无需标注/RM即可全面提升多模态Reasoning的感知能力
大型多模态模型在复杂多模态推理中面临挑战，67%错误源于视觉感知缺陷。为此，UIUC提出PAPO，通过隐式感知损失提升模型感知能力，无需额外标注，在多模态基准上表现优异，还解决了KL黑客问题。
突破全模态AI理解边界：引入上下文强化学习，赋能全模态模型“意图”推理新高度
在多模态大语言模型应用多元的当下，对模型理解人类意图需求迫切。阿里巴巴通义实验室团队推出HumanOmniV2，解决现有推理路径问题，其相关代码等开源，在多基准数据集成果突破性领先。
LeCun团队揭示LLM语义压缩本质：极致统计压缩牺牲细节
图灵奖得主LeCun团队提出全新信息论框架，对比人类与LLM语义压缩策略。通过构建人类概念分类基准、选30+LLMs，发现LLM虽有语义组织能力，但难处理细粒度差异，侧重统计压缩，人类更重细节语境。
OpenAI连丢4位大将！Ilya合作者/o1核心贡献者加入Meta，苏黎世三人组回应跳槽：集体做出的选择
OpenAI连失4员大将，Trapit Bansal跳槽Meta，继续研究推理大模型；苏黎世三人组Lucas Beyer等也加入Meta。此外，Meta还在洽谈收购语音AI初创公司PlayAI，连续布局语音AI。
一天 15k 星，代码生成碾压 Claude，连 Cursor 都慌了？谷歌 Gemini CLI 杀疯了
谷歌发布 Gemini CLI，是其 AI 助手终端版，有慷慨免费使用配额。它开源且功能多，支持多平台。接入 Gemini 2.5 Pro 通用模型，开发者反馈其代码生成和修复能力强，谷歌在代码能力上提升明显。
Agent 成大厂新“战场”？从同程旅行 DeepTrip 看垂类 Agent 的设计与落地实践
文章聚焦同程旅行推出的垂类旅行 Agent DeepTrip，介绍其设计与落地实践。它能降低旅行决策成本，构建旅行服务生态。团队基于多方面考量选 Agent 架构，还从多维度介绍实现方法及未来规划。