「推理缓存优化」共找到 3061 篇相关文章
一个场景吃掉700MB显存！3DGS存储焦虑怎么解？这篇综述划了五个方向
过去三年，3D Gaussian Splatting（3DGS）成实时3D场景重建与新视角合成“默认答案”，但场景拓展后有显存、带宽和功耗限制。香港科大等联合发布综述，从底层数据流组织技术版图，给出优化建议和未来方向。
OpenAI博通联手发芯片，黄仁勋还能保持松弛吗？
OpenAI与博通联手发布自研推理芯片Jalapeño，英伟达虽业绩亮眼但正被围攻。博通的ASIC芯片及通信优势、中立身份受青睐，OpenAI和Anthropic也正脱离英伟达管控，博通靠“芯片自主权外包”模式上位。
伏曦量子完成天使及天使+轮融资，五源资本、启盈同创等跟投
近日，伏曦量子宣布完成天使及天使+轮融资，由全球动力电池行业龙头领投，多家机构跟投。该公司由赵琦博士创立，定位是帮助产业客户理解和使用量子算力，其核心价值是优化算法，让问题可在近期硬件测试。
AI Labs 都在用，ClickHouse 能成为 AI 日志的实时分析引擎吗？
过去18个月，ClickHouse发展迅猛，2025年末ARR达1.6亿美元，付费云客户超3000。它原是Yandex项目，适合LLM推理日志分析。通过收购拓展为数据平台，进入多市场竞争。文章探讨其增长原因、产品、市场及优劣势等。
DeepSeek刚解决了AI视觉最后一块拼图：极低成本+精准视觉定位，AI接管电脑已无死角
DeepSeek放出新论文《Thinking with Visual Primitives》，解决多模态大模型中长期被忽视的“说不清位置”问题。提出将空间标记作为“最小思维单元”插入推理链条的方案，在多个任务上达前沿水平，但也存在精度、触发机制和泛化能力等局限。
读完这篇，你就搞懂 DeepSeek v4 了
2026年4月24日，DeepSeek全新系列模型DeepSeek - V4预览版上线并开源，评分接近‘闭源三巨头’。该模型强在1.6T参数+1M上下文，还有从attention到kernel的系统级重构与优化，在架构和工程层面均有创新。
任务自适应 Harness：从 Trace 到多 Coding Agent 的协作记忆
作者为AI Coding准备的端到端方案未落地，后在Routa项目找到新落点。基于ACP协议的Agent Trace可记录关键行为，用于分析优化。还介绍了Feature Explorer、Kanban Harness及任务自适应Harness，探讨多Agent协作记忆。
端到端语音模型：从语音表征到模型架构
本文整理自阶跃星辰语音模型负责人杨学锐在2025年QCon全球软件开发大会的分享。介绍大模型对语音技术的重塑，涵盖识别、合成等方面；阐述端到端语音模型构建，涉及表征、架构、训推和任务；还提及模型评估方法。
Meta 143亿挖角后首个作品来了：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，Meta还披露技术实现细节。不过闭源引争议，且模型在长时程智能体等方面有短板。
重磅！Anthropic又一个平台级产品炸场:Harness难题一次性解决，把Agent宠物变成牲口
Anthropic推出Claude Managed Agents，一套为云端大规模构建和部署智能体设计的API套件，已在Claude Platform上线公测。它全托管基础设施，专为Claude模型优化，多家企业已在生产环境使用，还同步发布工程博客解释架构设计思路。