「大模型预训练」共找到 9676 篇相关文章
刚刚，DeepSeek开源OCR 2，首创Qwen编码的「双流架构」
年底 DeepSeek 开源新模型 DeepSeek - OCR 2，首创双流注意力架构，model&paper 一同发布。它重构视觉编码器，采用三阶段训练流程，在 OmniDocBench v1.5 评测及生产环境验证中表现良好。
突发！OpenAI大神姚顺雨，任腾讯首席AI科学家
OpenAI科学家姚顺雨入职腾讯，任首席AI科学家，兼AI Infra部、大语言模型部负责人。他是清华姚班学霸，研究智能体成果多，还曾提出AI进入‘下半场’，评测将更重要的观点。
首个开源多模态Deep Research智能体，超越多个闭源方案
首个开源多模态Deep Research Agent登场，整合多种工具并优化决策。其WebWatcher技术方案覆盖全链路，实验中在四大核心领域领先主流模型，展现复杂推理和信息检索实力。
一天斩获2.5k星星！首个可以「让AI直接画CAD」的开源项目来了
新开源项目text - to - cad很猛，只需把需求告诉AI，它就能生成可编辑3D模型、导出文件，还能预检。支持多格式，有几何引用等特点，一天获2.5k星。
翁荔最新博文深度拆解Scaling Laws：AI行业最信赖的公式，没有那么可靠
6月24日，前OpenAI安全研究副总裁翁荔在博客发表长文，对缩放定律进行系统梳理，指出该理论在实际拟合和外推过程有易被忽视的陷阱，还讨论了数据有限时定律是否成立等问题。
AI竞争正酣，靠什么取胜？8个要点，一篇讲清楚
全球AI竞赛进入下半场，赛道转向‘谁更能干活’。我国有工业体系、应用场景和市场优势，取胜关键是‘通专融合’。文中提炼上海人工智能实验室周伯文长文8个要点，给出应对之策。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
ACL首届博士论文奖公布，华人学者李曼玲获荣誉提名
自然语言处理顶会 ACL 公布首届计算语言学博士论文奖，获奖者是华盛顿大学的 Sewon Min，其论文聚焦大型语言模型数据使用。此外，还有三篇论文获提名，包括李曼玲等学者的成果。
快慢Reasoning综述！
大型语言模型在复杂推理任务中有‘无差别计算’缺陷，阻碍其在多场景应用。本文提出双层效率优化框架，梳理两类前沿技术，通过实验揭示瓶颈，为轻量化推理指明路径。
奥特曼亲自点名：他定义了OpenAI的技术路线，却几乎没人知道他是谁
2026年7月28日，Altman在播客推Alec Radford至台前，称其为领域重要却鲜为人知的研究者。他主导GPT、CLIP、Whisper等研发，为AI发展贡献大。2024年他离开OpenAI，此后发布Talkie，持续探索模型能力来源。