「合成引导预训练」共找到 2326 篇相关文章
苹果港大终结自回归时代？7B扩散模型发布，AI写代码逻辑彻底颠覆！
苹果联合港大开源扩散大语言模型DiffuCoder，用扩散模型+强化学习策略，性能提升4.4%。研究还提出耦合梯度奖励策略优化方法，建立原生RL训练框架，探究了dLLM的生成机制等问题。
这个推理模型：HRM ，只用2700万参数，超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。
FutureHouse 联合创始人：AI Scientist 不是“全自动化科研”
FutureHouse 由 Google 前 CEO 资助创立，今年 5 月推出四个 AI 科研 agent，6 月宣布 AI 系统 Robin 发现新药。联合创始人 Andrew White 表示，AI Scientist 并非‘全自动化科研’，生物比化学更具‘平台化’潜力，团队聚焦科研自动化。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
更多thinking≠更好结果，精准thinking可砍掉一半长度
当前大模型如GPT - 4、DeepSeek推理又长又啰嗦，论文发现其在简单题目上过度推理。作者提出‘无效思考’概念，还给出解决原则，用LC - R1方法训练，效果显著，揭示精准思考才是王道。
Claude与人类共著论文，苹果再遭打脸！实验黑幕曝光
苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
谷歌之后，英伟达入局扩散大语言模型，Fast-dLLM推理速度狂飙27.6倍
大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。
阿里开源自主搜索AI Agent，搜论文、网站资讯无所不能
今天凌晨，阿里开源创新自主搜索AI Agent——WebAgent，具备端到端自主信息检索与多步推理能力。还介绍了WebDancer框架从数据构建到训练优化各阶段，助其完成复杂信息检索任务。
爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了
最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。