搜索：新注意力机制

「新注意力机制」共找到 4301 篇相关文章

Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制

论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。

台积电作为全球晶圆代工龙头，扩建步伐加快，今年将新建9座厂。本文盘点其现存26座晶圆厂区，涵盖6英寸、8英寸、12英寸晶圆厂及后端封测厂，介绍各厂位置、概况和最新情况。

OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。

大语言模型在竞赛编程场景易失败。南大、清华等研究者提出Solvita框架，由四个角色形成闭环，构建可训练图结构知识网络积累经验。实验显示其在多评测中表现强，提升不靠增加token。

Claude Code团队明确loop定义，将其分四大类，给出选择循环及控制Token消耗的实用指南，还介绍保持代码质量方法，最后总结各循环适用场景、建议功能，指导用户开始使用。

机器人大脑架构中VLM和VAM路线各有短板，香港大学、小鹏机器人等团队提出DIAL框架，让VLM在原生特征空间做隐式世界建模，解耦认知决策与底层执行，在机器人部署中表现优异。

一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。

4月29日，数字感知芯片技术全国重点实验室联合中星微团队发布‘星元智能体’。它基于XPU芯片，完成从芯片到智能体跨越，架构创新破算力瓶颈，还破解数据困局，已在多地试点，未来将推动AI产业发展。

2026年初，随OpenClaw爆火，AI步入Harness时代，MiniMax成变革焦点，推出MaxClaw和MaxHermes。但本地单机框架用于企业级生产有鸿沟，MiniMax借助阿里云云原生方案重塑Agent运行底座。

机器人操控有「数据困境」，传统方法需大量人工标注动作演示数据。中山大学王广润教授团队从视频生成模型「借」物理直觉，提出PAR和PhysGen，与英伟达DreamDojo核心思路一致，验证了新的技术路线。