「空间稀疏注意力机制」共找到 761 篇相关文章
兵临OpenAI！谷歌集结2500人「复仇」，Gemini 3夺回AI王座
谷歌发布Gemini 3欲夺回AI主导权。谷歌DeepMind的CTO与AI Studio产品负责人剖析其发布盛况等，称这是与全球用户共建AGI的实验，还谈到模型发展、应用及多模态等问题，也承认仍有提升空间。
OpenAI发布GPT-5.1 Codex Max，编程能力比Gemini 3更强、更持久
为换回注意力，OpenAI紧急发布GPT - 5.1 Codex Max。它在编程测试中表现优于Gemini 3 Pro，还实现24小时项目级开发。引入自动压缩与扩展推理改进，效率提升，现已多途径可用，API访问将开放。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
Code2Video：全新AI教学视频生成框架，助力高质量教学
生成式模型在生成专业教育视频时受限，新加坡国立大学Show Lab提出Code2Video框架，以代码为中心，由三个协作智能体组成，能通过Python代码自动生成高质量教育视频，代码驱动生成优势明显。
Qwen3-Next：迈向更极致的训练推理性价比
文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。
专为“超大模型而生”，新一代训练引擎 XTuner V1 开源！
9月8日，上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快，尤其在超大规模稀疏混合专家（MoE）模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。
专门收购和孵化无聊产品，年收入 3 亿美金的 Tiny 给了些启发
Tiny 通过收购孵化不起眼但赚钱的产品，成年收入 3 亿美金的控股公司。联合创始人 Andrew Wilkinson 分享创业见解，如选有利润空间的细分市场，初期选能快速获正反馈的生意，还谈到收购、管理等多方面经验。
DeepMind 发布超真实世界模型 Genie 3，AGI 向前一步
谷歌旗下DeepMind发布通用型世界模型Genie 3，可通过文本提示生成动态世界并实时交互，其生成内容物理一致性达分钟级。它功能丰富，也受业内好评，但有行动空间有限等局限，对迈向AGI意义重大。
阿里 Qwen3：持续开源，SOTA 连连！
很多从业者有‘闭源模型一定比开源强’的刻板印象，而 Qwen 正打破此认知。最近阿里连发三款模型 Qwen3-235B、Qwen3-Coder、Qwen3-235B（Thinking），在多方向发力且拿下多个开源榜单第一。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。