「全注意力残差」共找到 2026 篇相关文章
刚刚，DeepSeek开源OCR 2，首创Qwen编码的「双流架构」
年底 DeepSeek 开源新模型 DeepSeek - OCR 2，首创双流注意力架构，model&paper 一同发布。它重构视觉编码器，采用三阶段训练流程，在 OmniDocBench v1.5 评测及生产环境验证中表现良好。
CapCut Mate：开源剪映自动化神器，让AI替你剪视频！
CapCut Mate是开源免费的剪映草稿自动化助手，让开发者通过API控制剪映核心功能，效率提升超100倍。它功能丰富，覆盖剪辑全流程，适用于多场景，还提供三种使用方式。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
我给滴滴AI提了个建议，结果他们做得超出了我的想象
作者因母亲用打车软件费劲，基于地图MCP构想长辈出行模式。滴滴AI看到后联系作者，三个月后拿出成果，不仅实现作者设想，还完善专车场景、做到全场景覆盖，体验很棒。
字节奖学金首次全球开放，五年67位得主去向追踪
2026 字节跳动奖学金启动，首次开放全球申请，扩大获奖名额、提高奖金。此前五届共支持 67 位青年研究者，研究覆盖 AI 全谱系。获奖者去向多元，研究方向常领先风口，体现字节对源头创新的支持。
联合AI天使会、对接百家顶级VC，「星火计划」正式启动招募
算泥社区联合AIGC开放社区发布「星火计划」，联合AI天使会等对接百家顶级VC，构建全链路服务体系。其有构建资本网络、深度辅导、提供品牌与资源等优势，现向早期项目开放征集。
Office危！阿里千问这回把“办公全家桶”打包进了对话框
阿里千问升级办公和写作能力，将文档生成、排版、编辑、格式转换等功能集于一体。PPT创作能打通全流程，文档编辑支持多操作，还能进行格式转换，一站式办公体验高效便捷。
阿里Qwen又悄悄放出8个开源权重，卷疯了~
阿里通义千问太卷，悄悄放出8个开源模型权重，包括体积更小的Qwen3-VL及FP8权重。这一代实现全方位升级，提供两种架构、两个版本，架构也有更新，还给出使用示例与模型权重链接。
这帮清华的，造了一个让龙虾“安全着陆”的新物种
在OpenClaw热潮中，隐私保护缺位成企业和开发者难题。无问芯穹推出InfiniClaw Box，独创‘三段式’架构，适配全模态信源，解决数据安全与模型能力兼顾问题，还与多家企业合作拓展应用边界。