「GPU架构」共找到 2148 篇相关文章
InfoQ 2025 年趋势报告：软件架构和设计
InfoQ 2025 年软件架构和设计趋势报告，借助《跨越鸿沟》模型分类。涉及 AI 多方面趋势，如 LLM 普及但应用场景存疑，还有 Agentic AI、SLM 等创新领域，以及 RAG、AI 辅助开发等不同阶段趋势。
HAMi × NVIDIA：GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。
新国产GPU「曦望」，刚融了10个亿
国产GPU公司曦望Sunrise由商汤2024年底分拆独立，时隔半年完成近10亿融资。其产品曦望S1、S2已量产，S3在研发。两位联席CEO分别是百度元老王湛和AMD芯片老将王勇，核心团队规模小但成果显著。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
刚刚，Kimi开源新架构，开始押注线性注意力
智能体时代推理计算需求成瓶颈，线性注意力可降复杂度但表达有限。月之暗面开源 Kimi Linear 新架构，结合线性与全注意力，性能和硬件效率出色，引发对线性与全注意力发展方向的思考。
刚刚，马斯克官宣xAI解散，22万张GPU算力租给Anthropic
马斯克官宣 xAI 解散，将整合进 SpaceX 新子部门 SpaceXAI。同时，SpaceX 与 Anthropic 达成协议，超 22 万张英伟达 GPU 算力用于提升 Claude 代码生成，双方合作利好彼此。
英伟达发布统一GPU开发平台DGX Cloud Lepton
英伟达发布专为开发者设计的AI平台DGX Cloud Lepton，可汇聚全球GPU计算资源，提供即时访问和无缝部署能力。它功能强大，支持多环境部署，提供统一体验，还有庞大合作网络。
首个基于 MCP 架构的低代码 RAG 框架
检索增强生成系统复杂度提升，科研人员面临高昂工程成本。清华大学等联合推出 UltraRAG 2.0，基于 MCP 架构，降低复杂 RAG 系统技术门槛与学习成本，支持低代码构建复杂系统。