「预训练研究」共找到 3687 篇相关文章
Loop Engineering 实战：实现从日志扫描到预发部署的全自主闭环
文章分享 Loop Engineering 实战经验，指出传统维护循环存在看不见、记不住、没闭环问题。介绍了从 Prompt 到 Loop 的四代 AI 工程化范式，阐述 Loop 原理、组件及落地实践，还提及范式迁移和踩坑教训。
Nature 正刊收录！清华 FIB 实验室揭示：AI 提升科学家个人影响力，却收缩科学整体探索空间
清华大学 FIB 实验室牵头研究表明，AI 在自然科学应用广泛，提升科学家个人影响力，但使科学整体探索空间收缩。研究基于大量论文和人员数据，还提出科研智能体系统 OmniScientist 缓解问题。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
2026苹果学者公布！20个席位华人占8席，西安交大校友上大分
苹果版「顶尖AI人才计划」公布2026年名单，20个席位华人占8席。该计划是Apple Scholars in AIML，为入选博士生提供资金、导师和实习机会。入选者研究多与苹果核心业务相关，苹果研究也从理论走向应用。
熬夜后走神不是你的错，而是自救机制在“洗脑” | Nature
麻省理工学院研究揭示，熬夜后白天易走神是因大脑“洗脑”机制启动。正常“洗脑”在睡眠时进行，清理废物；睡眠不足时，白天也会启动，代价是注意力受损。此前波士顿大学也有大脑清洁相关研究。
华为Doc-Researcher 布局感知+视觉语义双杀
现有深度研究系统依赖文本网页数据，忽视多模态文档知识。华为Doc - Researcher系统解决多模态文档解析不足、检索策略有限、缺乏深度研究能力等问题，含多模块，能处理复杂多模态任务。
刚刚，翁荔博客又上新：通过Harness工程实现AI自我提升
翁荔新博客聚焦Harness Engineering，梳理围绕‘Harness自我优化’的研究，探讨递归式自我提升发生层面，还指出自动化研究和自我提升系统面临的瓶颈，如评估标准模糊、奖励作弊等。