「推理芯片」共找到 2595 篇相关文章
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
Sam亲自泼冷水，GPT-5意外失手：我们对AI的期待，是否已被整个行业误判？
科技行业集体转向 AI，高管强调其变革性，可 OpenAI 的 Sam Altman 却泼冷水，提醒投资者高估回报。文中围绕‘AI 是否放缓’展开讨论，还分析了 GPT - 5 发布遇冷原因、AI 对就业影响等，指出 AI 发展多且快，未来潜力巨大。
仅100种子题，合成数据质量超GPT-5，阿里、上交提出Socratic-Zero框架
阿里巴巴与上交大联合提出 Socratic-Zero 框架，仅从 100 个种子问题出发，通过三智能体协同进化生成高质量课程。该框架合成数据质量超 GPT - 5 等，Solver 性能提升显著，工程友好，开启零数据自进化新路径。
刚拿诺奖就登Nature封面！谷歌“量子回声”算法计算提速13000倍，可重复验证结果
刚获诺奖的谷歌量子团队登Nature封面，提出“量子回声”算法，计算提速13000倍且结果可重复验证。解决了量子计算结果难确认问题，该算法在多领域有应用潜力，还依赖Willow芯片优势。
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
以「场景」定义算力：AI时代，通用算力不只“通用”
当AI狂欢席卷全球，阿里云和AMD通过‘一芯三用’重新定义AI时代算力选型逻辑，从‘参数崇拜’回归‘业务本质’。联合发布三款基于AMD Zen 5架构‘Turin’处理器的全新ECS实例，精准匹配不同业务场景需求。
DiT在数学和形式上是错的？谢赛宁回应：不要在脑子里做科学
X上有博主称DiT存在架构缺陷，其FID过早稳定，可能无法继续从数据中学习。还批判了DiT的设计，如使用后层归一化和adaLN - zero。DiT作者谢赛宁回应，强调做研究要基于实验，也指出DiT现存一些问题。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。