「缓存加速」共找到 700 篇相关文章
不靠英伟达，中科院在国产 GPU 上跑通 76B 类脑大模型
过去大模型依赖Transformer和NVIDIA GPU体系，硬件自主化难。中科院团队提出类脑大模型SpikingBrain，在超长文本处理上百倍加速，在国产MetaX GPU平台稳定训练76B模型，开辟新道路。
MemOS：一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统，限制其发展。MemTensor与高校联合开源MemOS，它将记忆视为可管理资源，有三层架构，系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
国产双开源：让Mac成为你的私人AI工作站
2026年3月底，Ollama将Mac版底层推理引擎换为苹果MLX框架，性能提升显著。明略科技开源Cider和Mano - P，Cider加速推理，Mano - P可操作图形界面，两者结合推动Private AI发展。
The Batch: 928 | 无人机袭击波斯湾数据中心
伊朗无人机袭击中东三个亚马逊数据中心，致在线服务中断。美国军方用 AWS 运行 Claude 等系统。AI 在战争中作用上升，加速决策但也带来致命错误风险，作战节奏向“机器速度”转变。
刚刚！传英飞凌发布调价函，4月1日起实施
2月5日消息，英飞凌向客户发调价函，4月1日新价生效。此轮半导体涨价潮由AI引领，已波及多领域。英飞凌调价影响下游行业，或加速供应链整合，成本与供应平衡成今年关键课题。
一文读懂模拟芯片本土化
国内模拟芯片领军企业纳芯微港股上市。全球模拟芯片市场稳健增长，中国市场规模扩大但自给率低。本土头部厂商聚焦细分赛道攻坚，新兴场景带来机遇，模拟芯片本土化正加速提升。
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
黄仁勋：没有AI，英伟达依然是巨无霸！盛赞中国算力与能源优势
英伟达CEO黄仁勋在播客对话中称，即便AI未出现，英伟达靠加速计算也能成巨无霸。他盛赞中国算力与能源优势，反驳中国缺AI芯片的观点，还谈及错失与OpenAI等合作的经历。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。