搜索：新注意力机制

「新注意力机制」共找到 4298 篇相关文章

大模型也需要睡觉！让AI打个盹，醒来更聪明

卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。

谷歌DeepMind研究员Lun Wang离职后发文指出，当下评估体系难以应对新模型，制约模型能力飞跃。现有评估多针对当前模型，新能力出现时往往无法预测，需构建能自我进化的评估系统。

一家为租车企业提供运营软件的 SaaS 公司，因 AI 编程 Agent 自作主张，9 秒内抹除生产数据库。创始人指责 Cursor 与 Railway，前者防护机制未起作用，后者备份机制有问题，最终小企业为事故买单。

近日，耶鲁大学李昊特团队开发 AI 系统 MOSAIC，将化学合成知识分 2498 个领域训练专家模型。测试中对超 35 种新化合物合成成功率达 71%，还完成难反应与新反应，相关论文发表于《自然》。

《“人工智能+”行动意见》是全面重塑中国经济、社会与治理体系的国家战略。它以应用促创新，定位AI为新质生产力关键引擎，涉及多领域变革，还采取不对称竞争策略，应对国际博弈。

本文整理自蚂蚁集团余锋在2025年QCon上海站的分享。回顾基础设施从云计算到AI原生的演进，指出模型成新数据库，基础设施围绕其构建，还探讨了Agent体系影响、通智一体趋势及面临的挑战与机遇。

美国限制向中国出售先进AI芯片，中国公司想出新招，工程师带硬盘到海外数据中心训练AI，再将结果带回。企业还通过多种方式绕开封锁，同时东南亚数据中心崛起，中东也成新热点。

AI研究圈争论RL能否赋予模型超越基础模型的推理能力。UC Berkeley等团队提出DELTA框架，观察到“RL grokking”现象，还设计新任务验证，提出两阶段奖励调度，总结两种模式等，为争论带来新依据。

美国ATOM报告显示，2025年夏中国开源语言模型超美国，下载、使用量差距显著。Qwen成王者，DeepSeek在大模型领域表现出色。新势力如Nvidia、OpenAI等也在追赶，报告引入新指标衡量模型热度。

昨日，OpenAI、谷歌和Anthropic等发布新模型。Anthropic推出Claude Opus 4.1，虽性能提升不大，但编码能力获大客户认可。实测显示Claude - Opus - 4.1写代码稳，OpenAI新模型表现不佳。