搜索：新注意力机制

「新注意力机制」共找到 4338 篇相关文章

颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出

在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。

为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。

Mirage是全球首个实时生成引擎，借助先进AI世界模型实现实时UGC玩法，支持多种游戏类型。与其他成果相比优势显著，由定制模型驱动，打破传统游戏边界，让玩家动态创造新体验。

苹果联合港大开源扩散大语言模型DiffuCoder，用扩散模型+强化学习策略，性能提升4.4%。研究还提出耦合梯度奖励策略优化方法，建立原生RL训练框架，探究了dLLM的生成机制等问题。

Innovation Endeavors合伙人Davis Treybig发布《State of Foundation Models》（2025），从七个维度剖析AI产业现状与趋势。报告指出，AI发展迅速，模型成本高且迭代快，应用渗透各行业，智能体崛起，市场结构变革，公司运作方式也在重塑。

Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。

RL与LLM结合是重要技术方向，应用从后训练延伸至预训练。虽看似为LLM+RL带来希望，但RL本身有局限。微软等提出的RPT有潜力，不过训练语料等未广泛验证，且需大量计算资源。

谷歌推出全新开源AI编程工具Gemini CLI，开源不到24小时获26.5K标星。它将Gemini 2.5 Pro塞进命令行终端，有自然语言驱动等多种能力，免费额度高，可扩展，部署简单。

6月26日首形科技宣布完成Pre - A轮融资，由招商局创投、深创投领投。创始人胡宇航长期研究机器人相关方向，其成果构成产品技术起点。公司有三大技术体系，还提出类人共情价值，欲引领机器人情感觉醒时代。

00 后陈源培是灵初智能联创，本科土木工程专业，大二因比赛对机器人感兴趣。他研究灵巧手，参与开源项目，灵初发布相关模型。他认为强化学习对灵巧手重要，还谈了模型、创业、落地等看法。