「Merge Attention States」共找到 90 篇相关文章
24小时、78轮实验、持续迭代，AiScientist自己把最优解一步一步逼出来了
中国人民大学高瓴人工智能学院的AiScientist挑战让AI持续推进研究工程。它采用“thin control over thick state”设计，通过分层编排和File - as - Bus等方式，在多任务上表现出色，为AI科研工程补上关键底座。
从Transformer到GPT-5，听听OpenAI科学家 Lukasz 的“大模型第一性思考”
2017年《Attention Is All You Need》提出Transformer架构，重塑AI版图。其作者“Transformer八子”中，Lukasz Kaiser加入OpenAI，参与GPT-4、GPT-5等研发。他10月将出席大会分享见解，曾预言多模态等趋势已渐成现实。
当Sora 2意外停摆，这个国产视频生成创业团队，直接「开源」三连击
OpenAI叫停Sora 2项目，同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈，包括音视频同出大模型、分布式Attention组件、全局编译框架，还介绍了团队和产品，展现全栈实力。
Sensor Tower 25上半年AI应用报告：年轻男性用户仍占主导，垂类应用面临被「颠覆」压力
移动应用数据分析商 Sensor Tower 发布报告《State of AI Apps Report 2025》，分析移动端 AI 市场。指出 2025 上半年全球生成式 AI 应用下载和收入增长，亚洲成下载主力，AI 成应用标配，垂类应用面临挑战。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
东南大学耿新团队：模型不是不会做，而是被「挤掉了能力」丨CVPR 2026
东南大学耿新团队针对模型多任务融合问题提出论文《Model Merging in the Essential Subspace》。指出多任务融合失败源于关键方向重叠冲突，提出 ESM 方法，能让不同任务在模型中稳定共存，实验显示其性能更优。
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型（特别是 Stable Diffusion XL）推理速度提升高达 3 倍的方法，讲解五种优化技术，还验证了方法在其他 diffusion 模型上的通用性和有效性。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
单机H200最快DeepSeek V3和R1推理系统优化秘籍
作者从开源技术分享角度，盘点SGLang对单机规模推理的大量工程优化技巧，涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等，助于提升DeepSeek V3/R1在单机H200上的推理性能。