H100芯片」共找到 1014 篇相关文章

开源动态8

10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题

推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。

量子位
产品应用7

Supabase:百亿美元估值,vibe coding 的默认后端?

Supabase 以 Postgres 为核心,提供一站式后端服务,接近完成 5 亿美元 F 轮融资,估值 100 亿美元。它处于 Postgres 生态和 AI coding 趋势交叉点,产品路线图向 agent 倾斜,面临竞争、UE 等挑战。

海外独角兽
新闻资讯7

想进OpenAI?先解出这道题,百万美元算力已就位

OpenAI发起Model Craft Challenge「Parameter Golf」项目,要求在固定数据集上降验证损失,模型产物控制在16MB内,8张H100 GPU 10分钟完成训练。提供百万美元算力,6月招早期人才,挑战3月18日至4月30日。

机器之心
开源动态7

来了,DeepSeek又悄悄开源LPLB项目

DeepSeek 悄悄开源 LPLB 项目,该项目解决 MoE 小批量训练专家每批 token 数抖动问题。LPLB 在 EPLB 基础上,将‘冗余专家’看成带容量边的图,每批解一次线性规划,实现 token 重新路由,单节点 100µs 级求解。

PaperAgent
新闻资讯8

GLM-5封神,智谱市值五天翻倍,中国AI火力全开了

2026年春节档,字节跳动的Seedance 2.0与智谱GLM - 5成AI赛道“双子星”。GLM - 5在Coding领域开源与实战表现出色,标志中国AI迈向成熟。它能力比肩闭源模型,且配套工具链完善,还适配国产芯片

机器之心
新闻资讯8

AI驱动增长,国产半导体设备加速突围

2025年全球半导体设备市场在AI拉动下增长,销售额预计达1330亿美元。中国市场领跑,国产企业加速突围。AI算力、存储芯片需求及后道封装测试成增长动力,本土企业在多领域取得进展,但也面临挑战。

芯师爷
新闻资讯7

小米的中国芯,与雷军没说的“四个秘密”

本文围绕小米玄戒芯片展开,介绍其推出背景、工艺选择、研发成本及应用前景。指出华为、OPPO调整业务给小米带来契机,3nm工艺因品牌与成本平衡成首选,还分析了自研成本和知识产权等挑战。

芯师爷
新闻资讯7

曦望,死磕AI推理成本|甲子光年

1月27日,国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制,设计系统级重构,单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划,目标是极致推理性价比。

甲子光年
新闻资讯7

思特威、格科微……十大厂商亮出传感器“王牌”

在全球半导体竞争与供应链重构下,中国传感器芯片产业机遇与挑战并存。本文精选2025年参评‘芯师爷-硬核芯年度评选活动’的思特威、格科微等十大厂商及其产品,展现产业感知层关键突破。

芯师爷
研究资讯7

AI生成苹果Metal内核,PyTorch推理速度提升87%

Gimlet Labs研究显示,AI能自动生成苹果芯片Metal内核,使PyTorch推理速度提升87%,在215个PyTorch模块上平均加速1.87倍。多个模型组合生成最优内核概率更高,不过研究对比方式遭质疑。

量子位