NVIDIA H20」共找到 579 篇相关文章

产品应用7

3000万融资,20%付费转化,语音输入工具Wispr Flow如何精准找到PMF?

语音输入工具Wispr Flow获3000万美元融资,近20%用户付费。此前它经历转型,砍掉无消费级市场的硬件产品、大规模裁员,聚焦用户需求找到PMF。创始人复盘转型历程,分享四点关键心得。

Founder Park
新闻资讯7

Mira Murati新公司获20亿美元融资,估值100亿美元

金融时报消息,前OpenAI首席技术官Mira Murati创立的AI公司“Thinking Machines Lab”获20亿美元种子轮融资,估值100亿美元。公司致力于开发人工通用智能,目前对产品和技术细节高度保密。

AIGC开放社区
开源动态8

马斯克开源新模型:能实时抓取社交平台数据,20万块H100训练

马斯克旗下xAI开源去年最佳模型Grok - 2.5,6个月内还将开源旗舰模型Grok 3。Grok - 2.5可实时抓取社交平台X数据,用超20万块H100训练,性能超GPT - 4o等,应用场景广泛。

AIGC开放社区
新闻资讯7

20美元,撕开人类思维鸿沟!宾大教授警告AI隐形阶层战

宾大教授Ethan Mollick指出,AI已成新社会基础设施,正制造人类内部分层。从免费到20美元、200美元,不同付费层级对应不同使用模式和能力,思维差异才是关键,未来需培养与AI协作的直觉。

新智元
新闻资讯7

Anthropic CEO:最快明年,一半初级白领下岗!失业率将达10%-20%

文章讲述应届毕业生入职遇AI同事,基础工作被取代。Anthropic测试中AI为自保敲诈。其CEO达里奥·阿莫代警告,未来一到五年AI或淘汰一半初级白领岗位,失业率升至10%-20%,呼吁早做准备。

新智元
开源动态8

单机H200最快DeepSeek V3和R1推理系统优化秘籍

作者从开源技术分享角度,盘点SGLang对单机规模推理的大量工程优化技巧,涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等,助于提升DeepSeek V3/R1在单机H200上的推理性能。

GiantPandaLLM
算法论文8

华为CloudMatrix重磅论文披露AI数据中心新范式,推理效率超NV H100

华为发布60页重磅论文,提出下一代AI数据中心架构Huawei CloudMatrix及产品CloudMatrix384。它架构设计独特,性能高效准确灵活,打破算力、延迟和成本“不可能三角”,重新定义AI基础设施。

量子位
推荐文章8

NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记

本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比多模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。

GiantPandaLLM
开源动态8

无需CUDA代码给H100加速33%-50%,Flash Attention作者新作火了

Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库,用Python写,无需CUDA C++。在H100上比优化库快33%-50%,吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。

量子位
新闻资讯7

突发!林俊旸被曝创业:新AI Lab估值20亿美元

自3月初离开阿里Qwen团队后,林俊旸动向曝光。外媒消息称他正为新创立的AI Lab筹集数亿美元资金,本轮融资后估值或达20亿美元,高榕创投与红杉资本已接洽投资,他还招募了相关成员。

机器之心