「自注意力层」共找到 1530 篇相关文章
老黄亲自站台，英伟达编程神器！Cursor 2.0自研模型狂飙4倍
Cursor 2.0版本重大升级，发布自研编码模型Composer，速度是同等模型4倍。还重构IDE交互逻辑，支持多智能体模式，引入语音模式等。早期测试和开发者反馈其速度快，但智能程度与部分模型有差距。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
图像编辑太慢太粗糙？全新开源自回归模型实现精准秒级修改 | 智象未来
AI图像编辑中扩散模型有两大难题，智象未来团队提出全新自回归图像编辑框架VAREdit，引入视觉自回归架构，提升编辑精准度与速度。模型和代码已开源，还提出SAR模块优化，在基准测试表现出色。
Agent-World：扩展真实世界环境，让智能体与环境协同进化！
文章提出Agent-World，将“智能体环境探索”与“自进化训练”结合，构建了1978个环境、19822个工具。实验表明，其在23个基准上一致性优于先进方法与强开源基础模型，还分析了环境规模与自进化对性能的影响。
Adobe 新研究：不用再「喂」训练数据，VLM 靠和自己玩游戏变聪明
Adobe 等机构研究人员提出「Vision-Zero」，借鉴 AlphaGo 自迭代方式，设计让 VLM 自我学习框架。此框架以类似「谁是卧底」游戏训练，不依赖标注数据，在多任务超越有标注的 SOTA 方法。
3 天上了两个 SOTA 模型，视频 Agent 们接得过来吗？
7月31日MiniMax H3和字节跳动Seedance 2.5同日发布，3天后H3开源，8月7日Seedance 2.5开放api。模型变强使产品层要做的事更多，视频Agent需解决生产问题，竞争走向模型层之上。
写在 Claude Design 发布之后：如果明天巨头做掉了你的核心功能，你该怎么办？
Anthropic 发布 Claude Design，可从提示词生成设计稿等，让 Figma 市值蒸发。这引发对 AI 应用层产品的思考，当基础模型厂商收回能力，靠能力缺口的产品将失重，应用层需从工作流、数据等找机会。
用户被通知烦到关掉 Instagram？Meta：我们反思了，用 AI 给自己“限流”
Meta为Instagram推出新机器学习排序框架，引入‘多样性算法’，在现有互动模型上加‘多样性过滤层’，通过‘乘性惩罚’减少重复内容推送，解决通知疲劳，还计划探索新策略和用大语言模型优化。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。