块稀疏GPU内核」共找到 555 篇相关文章

产品应用7

jiSGLang集成ktransformers:2TB内存运行Kimi K2 Thinking模型

对于内存多但GPU资源有限的用户,SGLang集成ktransformers的CPU内核,支持直接运行Kimi K2 Thinking模型。它无需等量化,还能微调,虽性能与GPU方案有差距,但给用户新选择。

AI工程化
新闻资讯7

昔日GPU霸主,今日CPU屠夫?黄仁勋亮大招

2026年1月26日,英伟达CEO黄仁勋宣布以20亿美元购入CoreWeave的A类普通股。Vera CPU首次作为独立基础设施选项走向市场,挑战英特尔和AMD。其技术规格有巨大飞跃,能减少数据中心能耗与散热。

新智元
新闻资讯7

GPU、存储暴涨之后,AI最终攻陷CPU市场

AI引发全球性芯片短缺,GPU、内存、存储类芯片市场已超预期,如今CPU市场也受影响。Intel和AMD 3月上调CPU价格,平均涨幅10% - 15%,还面临资源短缺,交付周期延长。这或使CPU市场格局出现变化。

机器之心
开源动态7

无需租GPU,一台24GB内存的笔记本就够了!

阿里开源稀疏 MoE 模型 Qwen3.6-35B-A3B,总参数 35B,激活 3B。它在智能体编程上超越前代,可与稠密模型媲美,支持多模态,已在 Qwen Studio 上线,还能集成第三方编程助手。

GitHubStore
产品应用7

Ollama升级模型调度系统:内存管理更精准,多GPU性能提升

Ollama升级模型调度系统,精确测量运行模型所需内存,带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升,更多模型正迁移,还在开发iGPU支持,评估NPU支持。

AI工程化
开源动态7

Unsloth-MLX:在Mac上微调LLM,代码无缝迁移到云端GPU

对于Mac用户,在原型实验阶段反复租云端GPU是资源浪费。开发者推出Unsloth - MLX,基于MLX框架,让Mac用户本地高效微调大模型,改一行导入语句就能无缝迁移代码到云端,还介绍项目特点、状态等。

AI工程化
新闻资讯8

英伟达炸裂业绩打飞“AI泡沫”,黄仁勋:云端GPU卖光了

英伟达财报超预期,盘后股价飙升,带动行业股票反弹。黄仁勋称云端GPU售罄,驳斥“AI泡沫论”。其业务多板块增长,不过毛利率回落,因业务结构转型。市场对AI投资热潮看法不一,黄仁勋称是“AI良性循环”。

量子位
开源动态8

几张GPU干翻超算!耶鲁AI颠覆化学合成,实验成功率71%

近日,耶鲁大学李昊特团队开发 AI 系统 MOSAIC,将化学合成知识分 2498 个领域训练专家模型。测试中对超 35 种新化合物合成成功率达 71%,还完成难反应与新反应,相关论文发表于《自然》。

DeepTech深科技
新闻资讯7

总市值超6000亿,四家国产GPU上市企业谁是真龙头?

1月8日,天数智芯登陆港交所,至此“国产GPU四小龙”齐聚资本市场。本文盘点了天数智芯、壁仞科技、沐曦股份、摩尔线程这四家企业的上市信息、市值表现、主营业务差异和商业化进展。

芯师爷
产品应用8

老黄喝豆汁「破防」背后,国产GPU正在填上CUDA护城河

老黄喝豆汁刷屏,但更值得关注的是国产GPU生态。摩尔线程发布会展示MUSA生态,实现全方面覆盖,从兼容到自进化,在云端、端侧应用出色,还打通全链路,且未用最强架构。

新智元