「上下文瓶颈」共找到 1209 篇相关文章
拒绝不必要Think：微软&北大提出第一种自适应大型混合推理模型
大型推理模型冗长思考开销大，微软研究院和北大提出大型混合推理模型（LHRMs），它能依查询上下文决定是否思考。介绍了两阶段训练流程、评估指标，实验显示其超越现有模型且效率高。
不用递归自动微分，也能稳定计算高阶 PDE 导数？ Mollifier Layers 如何改造 PDE 反问题学习
本文介绍《Mollifier Layers: Enabling Efficient High-Order Derivatives in Inverse PDE Learning》，指出传统PINN递归自动微分计算高阶PDE导数有瓶颈，Mollifier Layers用解析卷积替代，实验显示其在精度、效率上有优势，也有核选择等局限。
数GPU，看未来：一张表看懂中美AI公司的真实实力差距，算力盘点
文章全面盘点中美头部AI公司GPU数量、资本开支和算力规划。美国科技巨头疯狂投入，如Meta、微软等；中国公司在禁令下抢购囤货并加速国产替代，如字节跳动、阿里等。还分析了中美差距及投资关注点。
“为了一个功能，需要再造一个Google！”Jeff Dean最新对话：TPU的诞生，与那些差点把服务器烧了的疯狂往事
在Google Cloud Next上，Jeff Dean和Amin Vahdat分享了Google算力帝国崛起秘史。从TPU诞生背景，到自研硬件血泪史，再到软硬件协同设计，还探讨了AI未来瓶颈，如能源、硬件等，以及代码编写现状。
DeepSeek 推出快速模式和专家模式
DeepSeek web 端灰度测试快速模式和专家模式，快速模式用于日常会话，专家模式适合复杂任务，但不支持文件上传，上下文仅 128k。目前两模式能力与 v3.2 没差别，或为 v4 做准备。
杨植麟当主持人的大模型圆桌：张鹏罗福莉夏立雪都放开说了
中关村论坛上，杨植麟、罗福莉、张鹏、夏立雪、黄超齐聚，共论agent的下一代演进。各位大咖观点硬核，如罗福莉认为中国大模型团队优势在‘算力受限下的最优解能力’，张鹏解释智谱新模型涨价原因等。
"将注意力旋转90°"：深入浅出解读 Kimi 最新出圈成果
Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议，马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与，提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果。
工程知识引擎：Harness Engineering体系下的工程知识底座
现代软件开发中，AI编程智能体虽能写代码但难理解代码，缺乏工程约束与上下文支撑。为此构建工程知识引擎，整合多维数据源，有向量检索等六大能力，经评估可提升智能体效率与代码质量。
全球AI算力大战变天！十万卡算力集群爆表，国产IB真香？
大模型竞赛进入万卡、十万卡时代，网络取代算力成新瓶颈。过去RoCE因成本优势受青睐，但集群规模扩大后运维复杂。IB架构以其稳定性迎来价值重估，国产IB方案突破或改变技术路线选择。
阶跃新模型快到“没推理”！印奇上任，果然气势一新
印奇上任后，阶跃星辰发布新一代开源Agent基座模型Step 3.5 Flash，总参数196B，支持256K上下文窗口。它推理快，适配多家芯片厂商，在多场景表现出色，还具备端云协同能力，架构也有多项优化。