搜索：注意力去偏技术

「注意力去偏技术」共找到 3147 篇相关文章

Transformer与RNN合体，谷歌打下显存门槛，解锁超长上下文

谷歌论文提出 Memory Caching 技术，通过架构机制创新赋予 RNN「可生长的记忆容量」，兼顾 Transformer 与 RNN 优势，能处理更长文本、降低推理资源门槛，实验显示有良好效果。

2025年12月5日，摩尔线程在科创板上市，成中国首家登陆资本市场的全功能GPU企业。它以自主创新为根基研发芯片，构建起技术体系，商业表现佳，上市募资将投入芯片研发，助力国家数字经济发展。

于谦视频播客《多新鲜呐》最新一期，本质是“AI产品用户体验公开测试”。于谦作为测试员，关注点在结果、省事、风险等，节目把技术叙事换成生活叙事，帮AI面向大众转译。

上海将举办首场专为女性设计的黑客松「She Code Lab Hackathon」NO.C001，时间为2025年12月26 - 28日。活动约50 - 100人规模，由女性主导，核心是‘表达’与‘联结’，主题为‘利她技术’。

昔日盟友倒戈Anthropic，宿敌谷歌技术反超，OpenAI统治地位受威胁。谷歌Gemini 3表现出色，OpenAI技术领先优势缩小，财务也面临压力，但奥特曼表示会推出新模型追赶。

琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。

Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。

现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。

2026崇礼论坛上，FUTURUS未来黑科技徐俊峰指出AI产业面临瓶颈，创业者应‘侧翼突围’。他认为以汽车挡风玻璃为介质的AR技术是数据闭环关键切口，还描绘了AR全栈解决方案赋能车厂的商业蓝图。

2025艾迈斯欧司朗探索者大会在深圳举办，以‘中国引擎’为主题。艾迈斯欧司朗表示中国市场成全球技术演进核心驱动力，还携手零跑探索‘技术平权’，并在多业务发力，将命运与中国市场紧密绑定。