GPU资源消耗」共找到 900 篇相关文章

新闻资讯7

华为版CUDA,全面开源了

华为宣布为昇腾AI GPU开源CANN软件工具包及Mind系列套件、工具链,让昇腾更好用。CANN类似华为版CUDA,目前到8.0版,支持多深度学习框架。同日,传奇GPU架构师创业公司浮出水面,挑战英伟达。

量子位
算法论文8

量化噪声竟是RL秘钥?QeRL:高效强化学习新范式,一场噪声引发的性能革命

近年来,大语言模型在复杂推理任务中面临挑战,强化学习虽更接近人类推理过程,但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源,还能增强模型探索能力,QeRL框架实现训练速度提升、内存占用减半。

深度学习自然语言处理
产品应用7

容器可观测新视角: SysOM延时监控助力定位业务抖动原因

云原生场景下,资源超卖和混合部署使宿主机与容器化应用资源竞争加剧,引发内核级延迟问题。本文结合实战案例,介绍用ack - sysom - monitor Exporter分析定位内核延迟,还介绍了SysOM监控及解决系统延时的方法。

阿里云开发者
新闻资讯7

争夺3500亿估值!谁会是真的“中国英伟达”

6月30日,摩尔线程和沐曦同日递交科创板IPO申请,预计未来A股将涌现近10家“中国英伟达”。这轮上市潮源于政策松动,且美国出口管制为国产GPU提供了市场窗口期,但竞争也日趋激烈。目前国产GPU营收与亏损齐飞,未来需构建生态并解决产能问题。

芯师爷
新闻资讯7

英伟达GPU,将沦为白菜价

硅谷投资大佬Peter Thiel称AI芯片最终会成白菜价。当前英伟达靠垄断赚大钱,但AMD、ASIC、TPU、Trainium等正围剿它,利润将从硬件层转移到应用层,英伟达可能慢慢走下坡路。

新智元
推荐文章7

通过查看GPU Assembly分析CUDA程序

文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例,对比普通和向量化版本,通过查看SASS代码,解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。

GiantPandaLLM
新闻资讯7

国产GPU造富狂欢:谁是最大赢家?

2025年12月,摩尔线程和沐曦股份上市引发资本市场狂欢,股价暴涨带来造富效应。国资背景投资方在两家公司上市前占据重要地位,私募大佬葛卫东等也入局。但两企业未盈利,面临技术、竞争等挑战。

芯师爷
新闻资讯7

The Batch:832 | AI 消耗能源,也节省能源

国际能源署对AI能源消耗全面分析,有忧有喜。担忧在于AI能源消耗有四种情景预测,到2030年数据中心电力需求或翻倍。期待是AI已开始提升能源效率,未来可带来巨大能源节约。

DeeplearningAI
新闻资讯7

英伟达:祝贺谷歌TPU成功,但GPU领先一代

谷歌凭Nano Banana Pro、Gemini 3大获全胜,且Gemini 3用自研TPU。谷歌向客户推介TPU本地部署方案,欲抢占AI芯片算力市场。英伟达紧急发声强调自身核心地位,还砸钱拉拢大客户。

量子位
新闻资讯7

黄仁勋搬来华尔街5000亿,买GPU可以按揭了

8月11日,英伟达宣布与六家金融机构合作,成立算力融资平台,欲动员超5000亿美元,把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产,客户按需付费,但英伟达股价不涨反跌,这场豪赌结果待察。

新智元