搜索：联合自注意力

「联合自注意力」共找到 2246 篇相关文章

FutureHouse 联合创始人：AI Scientist 不是“全自动化科研”

FutureHouse 由 Google 前 CEO 资助创立，今年 5 月推出四个 AI 科研 agent，6 月宣布 AI 系统 Robin 发现新药。联合创始人 Andrew White 表示，AI Scientist 并非‘全自动化科研’，生物比化学更具‘平台化’潜力，团队聚焦科研自动化。

自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。

清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。

OpenAI正面临绝对的算力稀缺，总裁Greg Brockman自曝内部算力资源争夺严重。算力是创新根本驱动力，因资源有限，许多产品无法发布，如ChatGPT Pulse部分功能仅对Pro用户开放。OpenAI有资源分配机制，但平衡各团队需求不易。

今天凌晨，苹果与谷歌官宣达成深度合作协议，基于Gemini模型和谷歌云技术构建下一代苹果基础模型，成果之一是今年内上线“更个性化的Siri”。此前苹果自研AI推进不顺，人才流失严重。

现有湍流数据库多聚焦中低雷诺数基础湍流问题，难应对复杂工程高雷诺数湍流挑战。西北工业大学联合八家机构建全球共享的高雷诺数湍流数据库AeroFlowData，结合多技术获取数据，收录近40类模型、超500种工况，数据近100TB。

随着大语言模型走向真实交互，强化学习训练LLM agents时出现信息自锁问题。香港中文大学等研究者分析其原因并提出AREW方法，在多场景实验中表现稳定且具鲁棒性。

面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。

苹果正考虑用第三方AI模型驱动Siri，这是其在AI竞赛中的重大转向。目前苹果多为自研技术，评估外部模型项目已启动，虽未做最终决定，但或借此摆脱AI落后声誉。网友对此看法不一。

近年大型语言模型催生AI智能体发展，但现有系统依赖人工预设，难适应动态环境。论文提出自进化AI智能体，可通过环境反馈自动优化，还提出三定律、四阶段范式演进模型等，开源EvoAgentX框架。