「H100 GPU」共找到 797 篇相关文章
再创历史！英伟达市值一夜突破5万亿美元，今年涨幅56%，黄仁勋晋升全球第八富豪
10月29日，英伟达市值突破5.03万亿美元，成全球首家破5万亿美元公司，今年涨幅56%。黄仁勋以1792亿美元持股价值居福布斯富豪榜第八。这或因GTC大会公布多项革新与合作，且AI热潮让其GPU需求旺盛。
努力的黄仁勋，能守住4万亿吗？
黄仁勋今年第三次访华，期间英伟达H20芯片对华出口通道再次打开。此前美国制裁使英伟达中国业务停滞，计提损失。中国市场对英伟达重要，但其特供芯片面临国产替代竞争，CUDA生态也受挑战。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
2499 元产品背后：地瓜机器人将智驾 know-how 转为机器人新解法
AI重塑机器人技术边界，具身智能成新战场。地瓜机器人从地平线拆分，将智驾经验用于机器人。它提出大小脑分层架构落地更快，还推出RDK S100套件，搭建具身智能底座应对数据和应用难题。
嘘，Claude正在「做梦」！睡一觉疯狂进化，一夜暴涨6倍战力
Anthropic在Code with Claude开发者大会上，给Claude托管智能体添加Dreaming功能，让其能自动回顾记忆、自我进化，还发布Outcomes和多智能体编排。法律AI公司Harvey用后任务完成率飙升约6倍。Anthropic还租下22万张GPU算力。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
慕思联手华为鸿蒙，完成一场卧室里的“静默实验”｜甲子光年
在AI浪潮下，睡眠场景需“静默革命”。慕思联手华为鸿蒙推出鸿蒙智选慕思智能床Pro H - Design，采用底层代码级深度共研，还自研传感技术与算法，构建闭环服务用户，重写智能床竞争逻辑。
ZeroGPU Spaces 加速实践：PyTorch 提前编译全解析
本文聚焦 ZeroGPU Spaces 加速实践，介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效，但有局限。提前编译可优化模型，提升演示速度，还分享了接入方法、高级技巧及演示示例。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。