「GPU利用率」共找到 421 篇相关文章
DeepSeek不惜代价保住它!V4关键特性被挖出来了
DeepSeek V4技术报告被深挖,为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐,是复杂上下文系统底座,但会牺牲GPU利用率等,换来训练等多阶段可复现和稳定度。
3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。
刚刚,1122人干出“国产GPU”第一股,摩尔线程成功IPO:开盘股价疯涨,市值破2800亿!专家:国产AI芯片商业化进入关键期
今天摩尔线程在科创板挂牌上市,募资 80 亿用于核心产品研发。其团队技术强,研发投入高但仍亏损,预计 2027 年盈利。产品迭代快,不过与国际龙头有差距,专家认为国产 GPU 商业化关键在软件生态。
从“小卡拉米” 杀入 CNCF,创始人却说:HAMi火了,我们每天仍如履薄冰
本文讲述 HAMi 项目从“小卡拉米”到进入 CNCF 孵化阶段的历程。该项目解决 GPU 利用率问题,建立跨厂商生态。密瓜智能围绕其成立,补社区短板。虽 HAMi 成功,但密瓜智能仍需证明商业价值。
DeepSeek悄悄更新:Mega MoE、FP4 Indexer来了
昨天下午,DeepSeek 更新了 DeepGEMM 代码库,带来新东西 Mega MoE。它将 MoE 计算流程整合,让数据通信和计算同时发生,提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等,是基础设施层重构尝试。
当英伟达收购Groq引发行业震动,中国存算一体赛道正在发生什么?|甲子光年
2025年底英伟达200亿美元收购Groq,让存算一体成产业刚需。传统GPU受存储墙限制,算力利用率低。Groq采用SRAM成本高,而亿铸科技以消费级显卡价格提供H卡性能,兼容CUDA,或成产业真需求。
微软机房大量英伟达GPU开始吃灰……
微软CEO纳德拉承认,因缺电、缺机房空间,大量英伟达AI芯片闲置。这不仅是微软烦恼,也是大模型巨头共同问题。奥特曼称行业挑战在能源与基础设施匹配,算力企业也在调整策略。
探索 GPU 加速向量检索:NVDIA Cagra 在微信大规模推荐系统中的应用实践
本文分享腾讯团队将 Cagra GPU 图索引大规模应用于微信核心线上推荐业务的实践。介绍 Cagra 算法原理与优势,讲述线上化改造、架构演进、CPU/GPU 协同优化等,展示业务落地显著收益。
昔日GPU霸主,今日CPU屠夫?黄仁勋亮大招
2026年1月26日,英伟达CEO黄仁勋宣布以20亿美元购入CoreWeave的A类普通股。Vera CPU首次作为独立基础设施选项走向市场,挑战英特尔和AMD。其技术规格有巨大飞跃,能减少数据中心能耗与散热。
继GPU、存储暴涨之后,AI最终攻陷CPU市场
AI引发全球性芯片短缺,GPU、内存、存储类芯片市场已超预期,如今CPU市场也受影响。Intel和AMD 3月上调CPU价格,平均涨幅10% - 15%,还面临资源短缺,交付周期延长。这或使CPU市场格局出现变化。