「NVIDIA H100 GPU」共找到 788 篇相关文章

新闻资讯7

全网爆火的DeepSeek「UE8M0 FP8」,原来英伟达早已支持

NVIDIA PTX ISA文档早有.ue8m0数据类型,UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起,NVIDIA在ISA级别支持.ue8m0,H100、RTX 40系列等都有相关支持,DeepSeek是将其提升到模型层面。

AI寒武纪
新闻资讯7

H100去哪儿了?

X 用户疑问引发关注,H100 供应下降成算力危机。超大规模云厂商和前沿实验室提前锁定产能,核心短缺在于内存与封装工艺。算力危机冲击 AI 生态,产业界有应对方法,但短缺问题短期内难解决。

机器之心
新闻资讯7

刚刚,100 美金的 ChatGPT 来了

OpenAI 推出 $100/月 Pro 档,填补 Plus 和原 Pro 间空缺,核心是 Codex,提供 5 倍 Codex 用量及 Pro 特权。Plus 用户 Codex 配额调整,旧 Pro 仍保留。与 Claude 定价锚点一致,但打法各有侧重。

AGI Hunt
新闻资讯7

涨价100%!存储巨头再传重磅信号

据韩媒报道,三星一季度将NAND闪存供应价上调超100%,此前DRAM内存价格也上调近70%。预计二季度NAND价仍涨,SK海力士等或跟进。供给紧缩、需求激增,存储芯片市场或迎“新常态”。

芯师爷
7

新国产GPU「曦望」,刚融了10个亿

国产GPU公司曦望Sunrise由商汤2024年底分拆独立,时隔半年完成近10亿融资。其产品曦望S1、S2已量产,S3在研发。两位联席CEO分别是百度元老王湛和AMD芯片老将王勇,核心团队规模小但成果显著。

量子位
新闻资讯7

摩尔线程新一代GPU架构10天后发布

2025年12月19 - 20日,摩尔线程首届MUSA开发者大会将在北京举行。大会聚焦国产算力,主论坛将发布新一代GPU架构,还有20+技术专场和1000㎡科技嘉年华,官网已开放报名。

量子位
新闻资讯7

国产GPU第一股IPO获批,募资80亿

证监会官网显示,摩尔线程IPO注册申请已获批准,从6月30日递交招股书,仅用时4个月。此次IPO计划募资80亿用于研发等。公司业务为GPU相关,核心是MUSA架构,已推四代芯片。

量子位
开源动态8

多模型共享 GPU 内存,Berkeley 开源新工具

GPU内存利用率低是大模型部署痛点,伯克利Sky Computing Lab团队开源kvcached工具,通过虚拟化技术让多模型共享显存。它引入虚拟内存概念,按需分配,测试显示能提升效率,安装简单、兼容性好。

AI工程化
产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。

GitHubStore
推荐文章7

用AI深读100本书,太上头了~

国外开发者Pieter让Claude深读100本非虚构类书籍,用AI‘深化’阅读。AI能在书间找联系,还生成奇葩分类并挖出洞见。实验带来三个启发,还给出低成本复制思路,强调学习要让知识建立连接。

CourseAI