「块稀疏GPU内核」共找到 567 篇相关文章

新闻资讯7

禁令之下,黄仁勋再用“阉割芯片”抢夺中国市场

美国芯片出口管制冲击英伟达,其在中国市场损失大、份额降。黄仁勋计划7月推‘阉割芯片’B20、B40/B30抢市场。不同客户有选择倾向,同时国产GPU有机会也面临难题,企业还尝试海外训练模型。

芯师爷
开源动态7

教你构建私有 AI Coding 平台:Pi、DSH、Codex Harness 扩展能力对比与选型。

文章聚焦构建私有AI Coding平台,对比Pi、DeepSeek Harness、Codex Harness的架构、扩展能力及选型策略。介绍三者交互集成方式,分析其扩展特点,并为不同需求团队给出选择建议。

AI大模型应用实践
新闻资讯8

摩尔线程的野心,不藏了

上市15天后,摩尔线程在首届聚焦全功能GPU的开发者大会上,围绕MUSA推出诸多新品,包括新GPU架构、芯片、智算集群和硬件产品,还将开源核心组件,构建生态,其架构创新定义未来AI产业格局。

量子位
产品应用8

一文读懂DeepSeek-V3.2核心技术DSA:API疯狂降价性能不减的背后

DeepSeek发布实验模型DeepSeek V3.2,引入自研稀疏注意力机制DSA,API价格最高降75%。DSA先筛选后计算,含闪电索引器和稀疏多潜在注意力两组件,分四步工作,权衡了精确性与速度。

AI寒武纪
产品应用7

PDL 在 SGLang Kimi K3 中的应用

文章介绍 PDL 在 SGLang Kimi K3 中的应用,K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题,阐述计算链和通信链上的应用,还提及性能数据和实现问题。

GiantPandaLLM
新闻资讯7

曦望,死磕AI推理成本|甲子光年

1月27日,国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制,设计系统级重构,单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划,目标是极致推理性价比。

甲子光年
算法论文8

梁文锋署名新论文,DeepSeek V4架构首曝?直击Transformer致命缺陷

新智元报道,梁文锋署名的DeepSeek新论文提出全新Engram模块,解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴,通过Engram模块实现近似O(1)的确定性知识查找,或成稀疏LLM主流路线,下一代V4可能集成该方法。

新智元
新闻资讯8

黄仁勋迟到了15分钟,然后甩出一个数字:1万亿美元。

GTC 2026上,黄仁勋获“Token之王”称号。他预计英伟达到2027年营收至少1万亿美元,还展示商业定价模型,推出Vera Rubin系统,整合Groq芯片,开源OpenClaw,预告Feynman架构,开发太空数据中心。

探索AGI
新闻资讯7

具身导航:感知推理是上帝,还是执行控制是命门?| GAIR Live 023期预告

具身导航正从‘几何避障’向‘空间智能’跨越,当前领域经历范式变革。GAIR Live 023期线上圆桌将聚焦其前沿进展与落地问题,邀请两位专家拆解底层逻辑,还给出了核心议题、讨论精华预览及参与方式。

AI科技评论
开源动态8

最新原生端到端OCR开源项目!

腾讯开源最新原生端到端OCR:HunyuanOCR,仅1B参数,OmniDocBench得分94.1超竞品,功能覆盖全场景。还介绍了DeepSeek - OCR的桌面客户端,支持拖拽识别、导出文件等。

GitHubStore