搜索：两阶段注意力机制

「两阶段注意力机制」共找到 1640 篇相关文章

Qwen3家族训练秘籍公开：思考/非思考融进一个模型，大模型蒸馏带动小模型

Qwen3技术报告揭晓8款模型关键技术，采用双模式架构，训练和微调分段进行，还“大带小”蒸馏数据。其融合思考与非思考模式，训练分多阶段，Qwen Chat还全量上线深度研究功能。

Claude宣布Prompt缓存诊断功能登陆控制台，可解决缓存失效排查痛点。此前开发者排查效率低，新功能能显示变动位置与token损耗。目前处于beta阶段，介绍了使用方法、支持的失效原因及功能限制等。

具身智能常被视为‘系统工程驱动’研究方向，ReconVLA获AAAI杰出论文奖，是具身智能方向首次获AI顶级会议最佳论文。它解决VLA模型关键瓶颈，通过重建式隐式视觉定位机制，实验效果显著。

香港大学等机构研究者推出OmniPart框架，解决3D内容创作难题，已被SIGGRAPH Asia 2025接收。它将生成任务解耦为两阶段，保证部件独立又能完美组合，质量和效率超现有方法，应用潜力大。

谷歌提出新的DeepResearch方法TTD - DR，它模拟人类研究范式，将Agent起草的初稿视为‘含噪声输出’，经多轮检索 - 改进使初稿成高质量终稿，还引入自进化机制，测试显示其在复杂任务上领先。

快手 Kwaipilot 团队推出 KAT 系列两款 Agentic Coding 大模型，KAT - Dev - 32B 开源，KAT - Coder 闭源。两模型在 SWE - Bench Verified 表现出色，且在多训练阶段创新优化，有强大代码生成能力和涌现现象。

Meta等机构提出‘元认知重用’机制，让大模型学会反思总结。大模型打造‘行为手册’，与主流RAG系统有本质区别。研究人员设计三种实战用法，虽有局限，但为大模型推理难题提供了解决方案。

Anthropic 发布 Claude Code 的 auto mode 解决审批疲劳问题，用 AI 分类器替代人工审批。介绍了其核心思路、判断危险的标准、两阶段分类等，还分析了漏检率、被拦截后的处理及子 Agent 检查等，也指出了目前局限。

刘鹏飞组论文《Context Engineering 2.0: The Context of Context Engineering》重新梳理上下文工程领域。它追溯其20多年历史，给出形式化定义与四阶段模型，探讨关键问题，将其从技术技巧升为系统学科，为理解人机交互提供新视角。

随着大语言模型（LLM）能力提升，其内部机制更不透明。概念描述新范式用另一个 LLM 自动生成自然语言解释。介绍了描述对象、生成方法、评估指标，还提及社区关注方向，指出结合多种手段才能把解释变知识。