「双并行注意力机制」共找到 1187 篇相关文章
阿里Qwen3.5小模型发布：0.8B参数就能处理视频，边缘AI时代真的来了
阿里通义千问发布Qwen3.5系列四款小模型，采用Gated DeltaNet混合注意力机制。有原生多模态设计，解决“内存墙”问题。在多基准测试中表现出色，开发者反响好，但也存在幻觉级联、调试局限等问题。
视听分离SOTA提速6倍！清华发布首个6M高性能模型｜ICLR'26
清华大学团队推出Dolphin模型，仅用6M参数，通过离散化视觉编码和热扩散注意力机制，实现单次推理精准分离语音，速度提升6倍以上，在多项基准测试中刷新纪录，为端侧设备部署开辟新路。
SGLang JIT Kernel 介绍
文章介绍SGLang JIT Kernel，此前开发CUDA Kernel流程繁琐、编译时间长，现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程，还给出环境设置、目录结构等内容，并以实例说明开发过程。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
OpenAI也缺卡！僧多粥少，自曝内部抢卡抢到发疯
OpenAI正面临绝对的算力稀缺，总裁Greg Brockman自曝内部算力资源争夺严重。算力是创新根本驱动力，因资源有限，许多产品无法发布，如ChatGPT Pulse部分功能仅对Pro用户开放。OpenAI有资源分配机制，但平衡各团队需求不易。
WAIC现场最“聪明”展台！AI眼睛耳朵能力全打开了
WAIC现场，声网展台被观众挤爆，其新奇“AI玩具”都能与玩家流畅对话。声网对话式AI引擎全新升级，新增选择性注意力锁定、视觉理解能力，能与主流数字人方案集成，还可接入大模型，价格低。它已在多领域落地。
机器人需要一个「思考系统」：τ0-VLA让具身智能迈向长程任务时代
2026 WAIC落幕，具身智能成焦点。当前VLA模型在长程任务中有局限，上海创智学院和智元机器人联合发布τ(0)-VLA，提出分层架构和新推理机制，用大量真机数据训练，在长程任务表现出色。
Leogra AI：BVP 投资的欧洲版 Harvey，给每位律师配一位协作 Copilot
本文介绍瑞典法律AI公司Legora，其获1.5亿美元C轮融资，估值18亿。它让律师与AI并行工作，产品覆盖审查等环节。文中还阐述法律科技变革，以及其商业模式、竞争风险、团队文化和全球化策略等。
DeepDiver-V2来了，华为最新开源原生多智能体系统，“团战”深度研究效果惊人
华为发布DeepDiver-V2原生多智能体系统，采用“团队作战”模式，在复杂知识问答和长文报告生成上表现出色。它以Planner为中心协调多个Executor，有智能任务分解等优势，训练也有新机制，昇腾NPU集群加速。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。