「GPU利用率」共找到 430 篇相关文章
DeepSeek不惜代价保住它!V4关键特性被挖出来了
DeepSeek V4技术报告被深挖,为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐,是复杂上下文系统底座,但会牺牲GPU利用率等,换来训练等多阶段可复现和稳定度。
3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。
微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。
81岁老板一边狂赚1000亿成全球首富,一边公司大裁员!老员工自嘲:“我们被 GPU 替代了”
81岁的甲骨文联合创始人拉里·埃里森一日财富暴涨近千亿成全球首富。虽甲骨文营收利润未达预期,但AI订单量大,股价创新高。同时,公司大规模裁员,员工自嘲被GPU替代。
对谈 Chai-2 核心科学家乔卓然:抗体生成成功率提升百倍,分子生成平台是药物研发的 GPU|Best Minds
文章访谈 Chai Discovery 创始科学家乔卓然,探讨 Chai-2 设计理念与行业意义。Chai-2 能零样本生成活性抗体,成功率提升百倍,将开发周期从数月缩至两周。未来分子生成平台或成药物研发的 GPU,合成数据将成“第三模态”。
刚刚,1122人干出“国产GPU”第一股,摩尔线程成功IPO:开盘股价疯涨,市值破2800亿!专家:国产AI芯片商业化进入关键期
今天摩尔线程在科创板挂牌上市,募资 80 亿用于核心产品研发。其团队技术强,研发投入高但仍亏损,预计 2027 年盈利。产品迭代快,不过与国际龙头有差距,专家认为国产 GPU 商业化关键在软件生态。
从“小卡拉米” 杀入 CNCF,创始人却说:HAMi火了,我们每天仍如履薄冰
本文讲述 HAMi 项目从“小卡拉米”到进入 CNCF 孵化阶段的历程。该项目解决 GPU 利用率问题,建立跨厂商生态。密瓜智能围绕其成立,补社区短板。虽 HAMi 成功,但密瓜智能仍需证明商业价值。
DeepSeek悄悄更新:Mega MoE、FP4 Indexer来了
昨天下午,DeepSeek 更新了 DeepGEMM 代码库,带来新东西 Mega MoE。它将 MoE 计算流程整合,让数据通信和计算同时发生,提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等,是基础设施层重构尝试。
当英伟达收购Groq引发行业震动,中国存算一体赛道正在发生什么?|甲子光年
2025年底英伟达200亿美元收购Groq,让存算一体成产业刚需。传统GPU受存储墙限制,算力利用率低。Groq采用SRAM成本高,而亿铸科技以消费级显卡价格提供H卡性能,兼容CUDA,或成产业真需求。
微软机房大量英伟达GPU开始吃灰……
微软CEO纳德拉承认,因缺电、缺机房空间,大量英伟达AI芯片闲置。这不仅是微软烦恼,也是大模型巨头共同问题。奥特曼称行业挑战在能源与基础设施匹配,算力企业也在调整策略。