「深度注意力」共找到 934 篇相关文章
10 年后，Kimi 团队重新发明残差连接。马斯克和 Karpathy 同时点赞
Kimi团队发布技术报告，提出用Attention Residuals替换残差连接。实验显示其在各尺度模型上表现优于基线，降低训练成本。马斯克和Karpathy点赞，这或标志深度学习基础范式进入重新讨论阶段。
AI 领域最''不务正业''的团队，可能做了一件最正确的事
马卡龙是一款主打帮助用户更好生活的个人智能体，有深度记忆和生成定制化生活场景小应用两大核心特点。它区别于生产力智能体，有技术积累，基础聊天免费，开发小应用收费。
全新开源视频换装框架MagicTryOn
现有视频虚拟试穿（VVT）方法在时空一致性和服装内容保留方面有挑战，浙大提出全新开源视频换装框架MagicTryOn，利用全自注意力机制统一时空建模，设计服装保留策略，还引入掩码感知损失。
我用 Moxt，开了一家 AI 公司
作者体验 Moxt 后，用其创建 AI 团队做炒股分析、开发产品、设计桌游。Moxt 是 AI 原生协作平台，AI 同事有持久记忆，Workspace 灵活。个人和团队用它能提升效率，实现与 AI 深度共事。
北大DeepSeek论文或预定ACL Best Paper！梁文锋署名
北大DeepSeek联合发布的NSA论文已被ACL 2025录用且评分高，有望冲击最佳论文。该技术革新传统注意力机制，提升算力效率，是长文本处理的突破。此外，张铭教授团队还有多篇论文上榜。
Meta首个Agent生图模型登场，空降竞技场第二
Meta超智能实验室推出图像生成模型Muse Image，引入智能体机制，能编写代码、网络搜索，有自主修正能力，支持算力扩展、多轮编辑与画面合成。还预览了Muse Video，两模型均与Meta产品深度整合。
谷歌Gemma 4全系开源：3.8亿激活超越20倍体量模型，手机秒变AI工作站
谷歌发布Gemma 4全系列开源模型，有4个尺寸。它在硬件适配、注意力机制等方面革新，能在手机等设备运行，在测试中成绩出色，还获多平台支持，谷歌发起挑战赛鼓励开发者。
信息量爆炸！OpenAI内部路线图首次全曝光，首席科学家亲口承认：超级智能10年内到来
OpenAI宣布重组完成后，Sam Altman和首席科学家Jakub Pachocki直播公开内部路线图，称深度学习或10年内实现超级智能，还公布了AI研究目标与时间线，涉及产品、基建等多方面规划。
豆包，即将杀死比赛
本文讲述作者在不同场景的经历，展现豆包在大众心中的高认知度。还提及豆包用户规模领先、被业内人士使用、成内容创作热点等，且将深度嵌入春晚，或强化“AI = 豆包”印象。
字节跳动发布SeedFold，蛋白质结构预测相关多任务超越谷歌AlphaFold 3，揭示大模型缩放新秘诀
字节跳动Seed团队推出新一代折叠模型SeedFold，在多个蛋白质相关任务性能上超越谷歌AlphaFold 3。该研究为有效缩放生物分子基础模型提供新思路，推出加宽模型、线性三角注意力等方法。