「预训练研究」共找到 3718 篇相关文章
Anthropic祭出大模型“读脑”杀手锏：LLM决策过程全给你扒开看
Anthropic宣布开源电路追踪工具，可追踪LLM神经元，通过生成“归因图谱”揭示模型输出原因。开源了生成图谱的库和交互式前端，并提供demo notebook。可追踪电路、可视化图谱、检验假设。
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
ICRA 2025 获奖名单出炉，卢策吾、邵林等人获分类最佳论文奖
2025年IEEE国际机器人与自动化大会（ICRA 2025）落幕，公布最佳论文等奖项。上海交大卢策吾团队获人机交互最佳论文奖，新加坡国大邵林团队获机器人操作与运动最佳论文奖，大会竞争激烈，共收3000余篇投稿。
Science：AI预测教皇选举翻车！新教皇缘何成「意外之选」？
梵蒂冈宣布美国红衣主教Robert Prevost当选新教皇，而AI预测的是意大利红衣主教Pietro Parolin，Prevost不在预测名单。研究人员用算法分析选举人，还请ChatGPT整理资料，专家指出模型有局限但方法或可用于其他选举。
“额度想重置就重置，不问财务”，Codex Tibo首曝幕后：产品没做好，就补偿用户
围绕 Codex 与 Claude Code 使用额度问题，社区不满额度机制不透明不可预测。Codex 团队 Tibo 公开额度重置逻辑源于补偿，并非营销。此外，还谈及产品融合、技术创新、算力决策等多方面内容。
专访｜两位华人主导创办，Jeff Dean参投，伯克利开源项目SkyPilot转型初创
前沿模型团队算力瓶颈从不足变为分散，开源AI算力调度项目SkyPilot应运而生。7月末，它从高校走出成为初创公司，完成2000万美元种子轮融资。其免费版与商业版各有侧重，切入AI编排赛道潜力大。
清华唐杰团队揭示大模型记忆全景
清华唐杰教授团队等发布大模型记忆架构综述，提出三维记忆分类学，将前沿工作统一到理论框架，为LLM设计指明方向，分析了隐式、显式记忆架构，还探讨混合架构挑战与未来方向。
全球首个！国产AI开源系统一周狂改百款软件，全程0人干预
中国正从「制造大国」迈向「智造强国」，国产工业软件面临性能瓶颈。面壁智能联合OpenBMB开源全球首个Stencil优化AI系统ForgeStencil，1周自动优化100+软件，全程0人干预，提升研发效率，切中制造业升级诉求。
软件 3.0 时代来临
OpenAI 联合创始人 Karpathy 在 AI Ascent 2026 大会提出软件正经历第三次范式转移。从 Software 1.0 到 3.0，人类参与编程方式不断变化，3.0 用自然语言编程，中间层应用被模型原生能力吞噬。
Google 发了个压缩算法，内存砍 6 倍，速度快 8 倍，精度零损失
Google Research发布TurboQuant压缩算法，将在下月ICLR 2026正式发表。该算法把大模型的KV Cache压缩到3 bit，内存降6倍、速度快8倍且精度零损失，解决了传统算法的压缩开销问题。