「GPU架构」共找到 2199 篇相关文章
3个月手搓Gamma架构，这个团队打造出了场景白盒化推理的“下一代内容OS”
AI应用从生成范式转向任务执行范式，Pi团队3个月手搓Gamma架构，打造出场景白盒化推理的“下一代内容OS”。Pi将AI生成与人的编辑能力结合，解决传统创作难题，实现创作全流程系统内闭环。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
让GPU不再摸鱼！清华蚂蚁联合开源首个全异步RL，一夜击穿14B SOTA
清华与蚂蚁联合开源AReaL - boba²，实现全异步强化学习训练系统，解耦模型生成与训练流程，大幅提升GPU利用率。14B模型在多个代码基准测试达SOTA，性能接近235B模型。
中移动九天团队MultiPL-MoE：全新Hybrid-MoE架构用于增强通用大模型低资源代码能力
大语言模型在有限计算资源下提升多语言代码能力面临挑战。中国移动九天团队提出 Hybrid MoE 架构 MultiPL - MoE，耦合两层专家选择机制优化，实验证明其在增强低资源代码能力、缓解高资源语言遗忘上有效。
Hermes Agent 技术深度拆解：36000 Star 背后的架构设计，以及你该怎么用它
Hermes Agent 9 个月获 36800 Star，解决记忆断裂、能力天花板和平台绑定问题。它有四层记忆架构、自主技能进化，支持 200+ 模型，还有 40+ 内置工具、15 个平台适配器。最新 v0.8.0 版本有多项更新，文章还给出使用建议和对比。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
SGLang Team：在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek
本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性，SGLang 实现高吞吐量，成本低。博客探讨并行设计、优化方法，所有组件开源，也指出了当前局限与未来方向。
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。
当数据库的主要用户不再是人类：我们在 AI Agent 场景下的架构实践与思考
文章分享了服务 AI 公司时在 Agent 场景下数据库架构的实践与思考。介绍 Agent 工作负载特征，通过三个案例说明数据库面临的挑战及解法，还提到新需求催生开源项目 mem9，并给出实践教训，指出 AI 时代数据基建重要性。