H100芯片」共找到 1014 篇相关文章

开源动态8

蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践

文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读,详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案,包括Prefill和Decode阶段的优化、通信优化、观测诊断等,并给出了评测结果。

GiantPandaLLM
新闻资讯8

收官|近50万人次参与!首届北京艺术与科技周“热力值”拉满

12月7日,首届北京艺术与科技周在798艺术区收官。活动联合16+家机构,邀100+嘉宾,有100+场展演对话,近50万人参与。科技领袖对话、艺术先锋云集,还有多项原创首发,引25+家媒体关注。

798艺术区
产品应用7

神秘模型排名超 Gemma 4 31B:不跟 Qwen 硬刚,主打“快”和“省 token”

OpenRouter的Elephant模型Trending榜排名超Gemma 4 31B。它是100B参数隐身模型,主打‘智能效率’,在速度、token消耗、指令遵循等方面与其他100B级别模型对比各有优劣,代表极致轻量路线。

AI前线
推荐文章7

小米玄戒O1,五个争议问题与解释

文章围绕小米玄戒O1提出五个争议问题并解释。涉及是否为国产、自研芯片,手机SoC研发难点、小米做SoC原因及玄戒O1是否成功,还结合苹果、高通等案例阐述芯片产业分工等知识。

芯师爷
开源动态8

Karpathy最新手搓!复现GPT-2成本狂降600倍:仅需507元3小时训练「最好的AI学习项目」

Andrej Karpathy的个人项目nanochat更新,现训练GPT - 2级别的LLM成本低于100美元,在单个8XH100节点上仅3小时花约73美元,较7年前成本降600倍,还列出关键优化技术,设排行榜。

AI寒武纪
新闻资讯7

重整四年后,这家科技集团发生了什么?

东莞滨海湾新区土地事件让“紫光”进入公众视野,新紫光声明涉事公司与己无关。重整四年,新紫光化解历史风险,业务“做减法”聚焦科技,营收增长,经营从恢复走向增长,观察坐标已改变。

芯师爷
推荐文章7

AI产业链投资大逻辑:第三集

本集围绕AI产业链投资大逻辑,从底层的电展开。指出AI瓶颈正从GPU扩散到电力,存量核电资产因AI数据中心需求变得值钱,还引出'过渡期与终局'核心判断框架。

newtype AI
开源动态8

单卡2秒生成一个视频!清华联手生数开源TurboDiffusion,视频DeepSeek时刻来了

清华大学TSAIL实验室和生数科技联合开源视频生成加速新框架TurboDiffusion,能让视频生成在保证质量下最高提速200多倍,单张显卡就能运行,还整合四项关键技术,有诸多应用意义。

开源星探
新闻资讯7

Sam Altman :GPT-6已经在路上,DeepSeek是OpenAI开源重要因素

Sam Altman称GPT-6已在路上,节奏比GPT4到GPT5间隔更快,记忆是其重要方向。他还认为美国低估中国AI,像DeepSeek等中国开源系统是OpenAI开源重要因素。

AI寒武纪
新闻资讯7

马斯克:2036 年,钱将不再重要。

马斯克在《经济学人》访谈节目中表示,2036年AI将远超人类智能总和,迎来富足时代,钱将不再重要。他还预测未来通缩,AI将替代多数工作,也提到AI安全监管、中美AI约束因素等。

AGI Hunt