搜索：Attention性能瓶颈

「Attention性能瓶颈」共找到 2434 篇相关文章

机器人杭州上演格斗赛！拳拳到肉，宇树CEO王兴兴：创造了人类历史新时刻

全球首个人形机器人格斗赛在杭州落幕，四支队伍用宇树科技G1机器人参赛，“AI测算师”夺冠。比赛分表演赛和竞技赛，考验机器人多方面能力，背后是软硬件协同升级，引发网友热议。

5月17日，OceanBase在开发者大会推出“共享存储”产品，实现对象存储与事务型数据库深度集成，降低存储成本、提升弹性。它解决了传统架构瓶颈，靠多项技术创新落地OLTP生产环境，适用于多业务场景。

DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。

ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。

ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。

香港大学、香港科大与腾讯ARC Lab联合提出SCoPE，让视频模型处理位置关系的基底从张量网格转向射线空间。它将相机射线坐标注入Video DiT，新增参数不到原模型0.1%，多方面表现获改善。

前网易副总裁汪源在2026奇点智能产品大会分享，指出智能体系统瓶颈正从模型能力、Harness工程，转移到上下文。他还介绍了做好上下文基础设施的要点，以及推出的新内容格式KRL。

Uber的‘零增长技术栈’解耦容量与业务需求，优化Go运行时性能。还将生成式AI集成开发，92%工程师在用，但成本压力大。为此，Uber限额每位开发者，审查代码效果，完善评估指标。

近日，中国科学院等全球顶尖机构发布手术视频原生基础模型SurgMotion。它依托全球最大手术视频数据集，首次突破十亿级参数，覆盖17项核心手术任务，性能卓越，还在多领域形成生态共鸣。

超70万蔚来和乐道车主收到最新版世界模型推送更新。蔚来用一套代码覆盖多品牌、多平台、多芯片、多传感器车型，其技术体系复杂，从2020年起搭建，六年未改底层逻辑，如今效果显现。