「H100芯片」共找到 1014 篇相关文章
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读,详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案,包括Prefill和Decode阶段的优化、通信优化、观测诊断等,并给出了评测结果。
收官|近50万人次参与!首届北京艺术与科技周“热力值”拉满
12月7日,首届北京艺术与科技周在798艺术区收官。活动联合16+家机构,邀100+嘉宾,有100+场展演对话,近50万人参与。科技领袖对话、艺术先锋云集,还有多项原创首发,引25+家媒体关注。
神秘模型排名超 Gemma 4 31B:不跟 Qwen 硬刚,主打“快”和“省 token”
OpenRouter的Elephant模型Trending榜排名超Gemma 4 31B。它是100B参数隐身模型,主打‘智能效率’,在速度、token消耗、指令遵循等方面与其他100B级别模型对比各有优劣,代表极致轻量路线。
小米玄戒O1,五个争议问题与解释
文章围绕小米玄戒O1提出五个争议问题并解释。涉及是否为国产、自研芯片,手机SoC研发难点、小米做SoC原因及玄戒O1是否成功,还结合苹果、高通等案例阐述芯片产业分工等知识。
Karpathy最新手搓!复现GPT-2成本狂降600倍:仅需507元3小时训练「最好的AI学习项目」
Andrej Karpathy的个人项目nanochat更新,现训练GPT - 2级别的LLM成本低于100美元,在单个8XH100节点上仅3小时花约73美元,较7年前成本降600倍,还列出关键优化技术,设排行榜。
重整四年后,这家科技集团发生了什么?
东莞滨海湾新区土地事件让“紫光”进入公众视野,新紫光声明涉事公司与己无关。重整四年,新紫光化解历史风险,业务“做减法”聚焦科技,营收增长,经营从恢复走向增长,观察坐标已改变。
AI产业链投资大逻辑:第三集
本集围绕AI产业链投资大逻辑,从底层的电展开。指出AI瓶颈正从GPU扩散到电力,存量核电资产因AI数据中心需求变得值钱,还引出'过渡期与终局'核心判断框架。
单卡2秒生成一个视频!清华联手生数开源TurboDiffusion,视频DeepSeek时刻来了
清华大学TSAIL实验室和生数科技联合开源视频生成加速新框架TurboDiffusion,能让视频生成在保证质量下最高提速200多倍,单张显卡就能运行,还整合四项关键技术,有诸多应用意义。
Sam Altman :GPT-6已经在路上,DeepSeek是OpenAI开源重要因素
Sam Altman称GPT-6已在路上,节奏比GPT4到GPT5间隔更快,记忆是其重要方向。他还认为美国低估中国AI,像DeepSeek等中国开源系统是OpenAI开源重要因素。
马斯克:2036 年,钱将不再重要。
马斯克在《经济学人》访谈节目中表示,2036年AI将远超人类智能总和,迎来富足时代,钱将不再重要。他还预测未来通缩,AI将替代多数工作,也提到AI安全监管、中美AI约束因素等。