GPU Utilization」共找到 394 篇相关文章

产品应用7

用 Docker 跑大模型训练,Unsloth 解决了环境配置难题

Unsloth AI 发布 Docker 镜像版本,解决本地训练大模型环境配置难题。拉镜像就能训练,依赖和示例 notebook 都打包好。使用简单,不过有暂不支持 Mac 系统等限制,单卡 NVIDIA GPU 场景较适用。

AI工程化
新闻资讯7

为什么HBM能摆脱传统周期?

当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动,而AI推理不同,大模型推理对内存依赖是硬约束,GPU更新对HBM需求几乎注定指数级增长。

newtype AI
推荐文章7

硅谷惊变:12万张H100的挽歌

这是虚构故事,Meta用12万张英伟达H100训练“LLaMA 4 Maverick”,却被中国杭州DeepSeek团队用2000张GPU打败。项目失败成丑闻,扎克伯格成立实验室四处收购遇冷,新负责人管理混乱,实验室乌烟瘴气。

宝玉AI
新闻资讯7

3320亿市值,他们五年打造一家芯片龙头

沐曦股份发行价居年内科创板第二,网上发行中签率低,单签浮盈刷新纪录成最赚钱新股。它2020年成立,由三位AMD前科学家创立,聚焦GPU研发,虽仍亏损但营收增速快,募资投向科技创新。

芯师爷
开源动态7

从“小卡拉米” 杀入 CNCF,创始人却说:HAMi火了,我们每天仍如履薄冰

本文讲述 HAMi 项目从“小卡拉米”到进入 CNCF 孵化阶段的历程。该项目解决 GPU 利用率问题,建立跨厂商生态。密瓜智能围绕其成立,补社区短板。虽 HAMi 成功,但密瓜智能仍需证明商业价值。

InfoQ
开源动态8

Hugging Face开源nanoVLM,750行代码可训练视觉语言模型,简单到令人发指!

Hugging Face开源全新视觉语言模型框架nanoVLM,仅750行代码就能从零训练高效能VLM模型。它在单张H100 GPU训练6小时后,在MMStar数据集准确率达35.3%,且能在免费Google Colab跑。

AGI Hunt
开源动态8

阿里巴巴 & 蚂蚁 LoongSuite GenAI 可观测语义规范:从统一数据语言到规模化落地

随着GenAI发展,OpenTelemetry推动语义规范建设。阿里巴巴与蚂蚁联合推出LoongSuite GenAI SemConv,在OTel基础上增强,新增Entry/Step Span、Skill语义、Token级推理观测,还推出GenAI Utils简化插桩开发。

阿里云开发者
产品应用8

MiniMax都在用!5500PB幕后功臣首次亮相,国产黑马祭出杀招

AI浪潮中,数据流不动致GPU算力空转,XSKY星辰天合举办AIMesh产品战略发布会破局。AIMesh含三网,分别解决IO墙、重力墙、内存墙问题,且开放解耦,获多方认可。

新智元
新闻资讯7

中国芯片迎来关键一战

自2020年华为麒麟芯片断供,中国芯片加速自主研发,2025年末集体冲刺上市。如摩尔线程、沐曦股份等,虽多数亏损,但市值狂飙。不过,国产GPU面临技术、生态等挑战,崛起需漫长蛰伏与突破。

芯师爷
新闻资讯7

史诗级和解:英特尔获老对手英伟达超350亿投资,股价创38年最大单日涨幅

英伟达将投资英特尔50亿美元,双方联合开发定制CPU和GPU集成产品。合作旨在融合AI加速与通用CPU,覆盖多市场。曾有纠纷的二者此次合作,或助英特尔借AI突围。

AI前线