H800 GPU」共找到 533 篇相关文章

7

英伟达GPU被曝严重漏洞,致模型准确率暴跌99.9%

英伟达GPU被白帽黑客发现严重漏洞,通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类,直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。

量子位
新闻资讯7

黄仁勋提前锁定20年OpenAI芯片收入!第一轮150万GPU卖2000亿美元

英伟达推出‘LPS’概念,联合投资机构出5000亿美元建数据中心,为客户担保。首个项目为在美为OpenAI建150万GPU数据中心,20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。

量子位
产品应用7

vLLM 技巧: 在几秒钟内无需重启释放90%的 GPU 显存

EmbeddedLLM介绍vLLM新功能“休眠模式”,可在不重启服务时几秒内释放约90% GPU显存,实现模型热插拔与高效轮转,还介绍使用方法、不同休眠级别,提醒生产环境要确保安全。

AI工程化
新闻资讯7

一篇文章告诉你:国产 GPU 背后的技术和商业路线异同

过去两年,国产 GPU 赛道进入公开财务与审视阶段。文章分析了摩尔线程、沐曦等企业不同技术与商业路线,如摩尔线程走“高启动+快扩张”,沐曦选“厚积薄发+先服务高端算力场景”等。

芯师爷
产品应用8

不拼GPU!中兴扔出AI超节点,把token价格打下来

在万亿级大模型时代,传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术,从系统级协同架构出发,通过六大维度创新,绕开单GPU芯片瓶颈,重构AI算力基础设施,推动行业向开放、融合发展。

新智元
新闻资讯7

H200获准重返中国市场,我国AI芯片企业如直面“硬仗”?

据路透社消息,特朗普政府考虑批准英伟达H200芯片对华出口,且将允许其售华,但每颗收25%费用。此前英伟达在华份额归零,如今有望重返。国内AI芯片企业如海光、华为等近年发展良好,各有优势产品。

芯师爷
产品应用8

全网首测!首款国产GPU「AI算力本」现场上手

新智元报道首款国产GPU「AI算力本」MTT AIBOOK,它搭载国产全功能显卡,预装开发环境,打破系统壁垒。其背后的MUSA架构全栈自研,软件升级、有翻译工具,硬件架构革新,还有开源计划,产品应用广泛。

新智元
新闻资讯8

CUDA内核之神、全球最强GPU程序员?OpenAI的这位幕后大神是谁

AI圈聚光灯常聚焦明星人物,OpenAI一位工程师因编写关键CUDA Kernel引发关注,网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN,加入OpenAI后开发块稀疏GPU内核并开源。

机器之心
新闻资讯7

AI创业一年狂揽800亿美元!Anthropic反杀OpenAI,双雄独吞89%

The Information数据显示,34家头部AI创业公司年化收入达800亿美元,OpenAI和Anthropic拿走89%。Anthropic反超OpenAI,靠企业客户崛起。剩下32家分11%份额,AI产业链价值向模型厂回流。

新智元
开源动态8

腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s

腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、多层MTP优化等全栈优化方法论,还介绍多机性能优化方案,后续预计性能突破20000 tokens/s。

腾讯技术工程