「H800 GPU」共找到 547 篇相关文章

开源动态7

一年后,DeepSeek-R1的每token成本降到了原来的1/32

几天前,DeepSeek更新R1论文至86页,公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效,通过软硬协同提升每瓦特Token吞吐量,还介绍了TensorRT - LLM软件及相关技术提升性能的情况。

机器之心
产品应用7

慕思联手华为鸿蒙,完成一场卧室里的“静默实验”|甲子光年

在AI浪潮下,睡眠场景需“静默革命”。慕思联手华为鸿蒙推出鸿蒙智选慕思智能床Pro H - Design,采用底层代码级深度共研,还自研传感技术与算法,构建闭环服务用户,重写智能床竞争逻辑。

甲子光年
产品应用8

ZeroGPU Spaces 加速实践:PyTorch 提前编译全解析

本文聚焦 ZeroGPU Spaces 加速实践,介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效,但有局限。提前编译可优化模型,提升演示速度,还分享了接入方法、高级技巧及演示示例。

Hugging Face
新闻资讯7

AI Infra 工程师们如何应对大模型流水线里的“暗涌”?

InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。

AI前线
新闻资讯7

想进OpenAI?先解出这道题,百万美元算力已就位

OpenAI发起Model Craft Challenge「Parameter Golf」项目,要求在固定数据集上降验证损失,模型产物控制在16MB内,8张H100 GPU 10分钟完成训练。提供百万美元算力,6月招早期人才,挑战3月18日至4月30日。

机器之心
开源动态8

3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化

阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。

机器之心
开源动态8

专为“超大模型而生”,新一代训练引擎 XTuner V1 开源!

9月8日,上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快,尤其在超大规模稀疏混合专家(MoE)模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。

OpenMMLab
新闻资讯8

谷歌TPU杀疯了,产能暴涨120%、性能4倍吊打,英伟达还坐得稳吗?

摩根士丹利研报显示,谷歌TPU产能将爆炸式增长,供应不确定性基本解决。TPU性价比高,在推理领域优势明显,或终结英伟达垄断。文章还给出TPU与英伟达GPU的选择建议及不同利益相关者的应对策略。

机器之心
新闻资讯7

沐曦过会,投资人已赚麻

10月24日,沐曦股份科创板IPO申请过会,与摩尔线程争夺“国产GPU第一股”。其5年发展迅速,产品有竞争力,融资超百亿,估值超210亿。未上市前,投资人已获利,葛卫东浮盈约2亿,相关上市公司股价也上涨。

芯师爷
新闻资讯7

115万片晶圆,决定2026年的“芯片战”,苹果、联发科、OpenAI火线入局

2026年“芯片战”激烈,黄仁勋宣称90%的ASIC项目会失败。AI算力芯片出货格局取决于台积电CoWoS产能。英伟达有望拿近60%产能,GPGPU阵营火力强,ASIC用于特定场景,未来或现“GPU+ASIC”混合算力世界。

芯师爷