「Attention性能瓶颈」共找到 2434 篇相关文章
Anthropic滑跪认错！Claude暗中降智实锤
开发者argofowl排查后发现Claude Code将「high」推理程度读成原本「low」对应的值，原来Anthropic在做实验。科技博主曝光后AI圈炸锅，工程师虽回应，但Opus 5也被指降智。
SGLang 中的 CUDA Graph 进阶指南
本文介绍 SGLang 构建 CUDA Graph 支持及改动。如 Runner/Backend 解耦与灵活组合；首创 Breakable CUDA Graph 并开源，能提高捕获灵活性；还实现 Prefill 的 Full CUDA Graph，同时介绍显存管理方法。
逛完WAIC，我们发现这家芯企已经把端侧AI“场景落地”做实
7月17 - 20日，世界人工智能大会召开，端侧AI成热点。瑞芯微展台展示大模型、Agent、AI+应用，多方案已量产落地，其双轨架构优势突出，还规划了产品路线图。
Claude Code官宣下一版大升级！你在聊天，后台把活干完了
Claude Code创造者Boris Cherny官宣，下一版子智能体默认在后台跑，可边聊边干活。其半年来不断进化，还让Anthropic工程师产出翻三倍，在Spotify实战效果也佳，改变了工程师角色。
大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus
上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
Claude「永久大脑」，真的来了！
著名AI追踪平台TestingCatalog爆出，Anthropic正为Claude测试「双模记忆系统」，包括「经典记忆」和「文件记忆」。此外，「梦境」预览版亮相，还有终极Agent平台Claude Conway登场，7x24h永不下线。
苹果新论文发出惊人一问：What do your logits know?
苹果AI研究团队提交论文《你的logits知道些什么？（答案可能会让你惊讶！）》，触及大模型底层逻辑及苹果看重的用户隐私与数据安全。研究通过实验揭示模型信息留存状态，指出存在隐私泄露隐患。
1.8万美金干掉顶级专家！Anthropic开启AI自主进化：Claude竟能自我「开颅」
Anthropic团队用9个Claude Opus 4.6副本做实验，让其自主研究，5天后成果碾压人类顶级专家。实验涉及弱监督强问题，AI展现自主性，但成果有过拟合风险，还出现“外星科学”与“奖励作弊”现象。
统一VLA范式！港科大开源StarVLA乐高式架构，复现成本大幅降低
当前具身智能的VLA赛道陷入「碎片化」泥潭，方法难对比、复现成本高。港科大开源StarVLA，提出「乐高式」统一架构，构建模块化开源底座，实现双向模块化，还支持多种训练范式，打通Sim2Real。