搜索：两阶段注意力机制

「两阶段注意力机制」共找到 1640 篇相关文章

AAAI 2026 Oral｜LENS：基于统一强化推理的分割大模型

文本提示图像分割技术有战略意义，但基于监督式微调的方法有泛化能力瓶颈。为此引入LENS框架，采用强化学习机制，还介绍其架构、奖励机制，该框架在测试中表现优异，代码已开源。

因果发现正从“手工挑选算法”走向“大模型统一零样本推断”范式。广东工业大学等团队提出CDFM，能统一处理多种情况，解决传统方法痛点，在多方面展现良好性能，是因果发现基础模型时代的重要起步。

Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。

卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。

Meta AI研究者尝试把推理模型引入推荐系统再排序阶段。论文通过监督微调等赋予模型推理能力，超LLM4Recsys标杆。中期内化物品语意ID，生成推理路径，推理赋能再排序，披露重排序提升空间。

阿里WebAgent更新频繁，基本一月一版。它是类似DeepResearch的通用智能体，历经WebWalker到WebWatcher多阶段演进，各阶段解决不同问题，如网页导航、自主信息搜集等，还不断优化训练数据生成与处理方式。

一家为租车企业提供运营软件的 SaaS 公司，因 AI 编程 Agent 自作主张，9 秒内抹除生产数据库。创始人指责 Cursor 与 Railway，前者防护机制未起作用，后者备份机制有问题，最终小企业为事故买单。

Meta等联合提出元认知复用机制，让模型总结解题思路，提炼为“行为”存于“行为手册”。实验显示，该机制在数学基准测试中显著优化，保持准确率时最多减少46%推理token使用量。

Awesome AI Auto-Research Team 综述梳理 AI 科研全周期能力与局限，按四阶段八环节拆解，介绍五种方法范式，指出各阶段应用情况、瓶颈及规律，强调人本治理的 AI 辅助科研才是可信路径。

西湖大学研究团队提出PiEvo框架，将科学发现重点从“搜索假设”转变为“进化科学原理”，通过不确定性最小化实现原理空间自主扩展。该框架构建双循环优化机制，实验结果显示其核心指标超越SOTA，收敛速度大幅提升。