「显存瓶颈」共找到 687 篇相关文章
大模型智能体如何突破规模化应用瓶颈，核心在于Agentic ROI
上海交通大学联合中科大研究指出，大模型智能体规模化应用有瓶颈，核心在于Agentic ROI 未达实用门槛。研究提出其发展呈「之字形」，先规模提升信息质量，再轻量化降成本。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
对话RoboScience邵林：VLOA大模型如何突破具身智能泛化瓶颈
本文对话RoboScience联合创始人邵林，探讨VLOA大模型突破具身智能泛化瓶颈。他介绍了模型优势、设计思路，对比VLA，还谈及范式、难点及落地场景等，强调以人中心、做有温度技术，重视模型落地。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
USC团队发布HumDex：攻克人形机器人数据瓶颈，低成本实现全身灵巧操控
南加州大学团队提出HumDex系统，结合高精度便携追踪、手部控制算法和人类数据预训练机制，打破人形机器人高质量数据采集瓶颈，提升全尺寸操作泛化能力，经实验验证效果显著。
深度解读 DeepSeek V4.1 Flash 全新架构，如何成为显存杀手
本文深度解读DeepSeek最新发布的V4.1 Flash大模型，详解其全新CED架构与第二代压缩稀疏注意力CSA2，揭秘其通过架构创新大幅压缩KV缓存、降低显存算力成本，在长上下文Agent场景实现性能反超的细节。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
陶哲轩：AI 正在让“想法”变得廉价，而真正的瓶颈从未改变
数学家陶哲轩与Dwarkesh Patel访谈，探讨AI在科学发现中的作用。他指出AI让‘想法生成’成本降为零，验证想法成新瓶颈；AI擅长广度，人类擅长深度；AI负责找证明，人类提炼‘理解’与‘智慧’。
高盛研报：AI时代最大瓶颈不在算法和数据，而在电力和资本
高盛《Powering the AI Era》报告指出，AI是基础设施革命，其最大瓶颈是电力和资本。如一座250MW数据中心成本达120亿美元，2030年全球数据中心电力需求将激增，还介绍了应对办法及相关细节。
打破显存墙：谢赛宁团队提出CLM，单卡RTX 4090「撬动」1亿高斯点
3D Gaussian Splatting (3DGS) 是流行的新视角合成方法，但显存容量限制其应用于大型复杂场景。谢赛宁团队提出 CLM 系统，基于 3DGS 稀疏性和空间局部性，减少通信开销，可在单卡 RTX 4090 渲染大型场景。