「GPU显存」共找到 468 篇相关文章
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
李飞飞的创业公司放大招：只要一个 H100 就能跑世界模型
“AI 教母”李飞飞的创业公司 World Labs 推出高效世界模型 RTFM，只需一个 H100 GPU 就能一边和用户交互，一边实时渲染 3D 世界，显著降低硬件成本和部署难度，渲染效果也不俗。
jina-embeddings-v5-omni 发布！全模态向量小模型
Jina AI发布`jina-embeddings-v5-omni`，将`v5-text`能力拓展到多模态。`v5-omni-small`参数量小却追平LCO - 7B，在多模态评测中表现优异，但视频是短板。其采用‘冻结 + 投影’架构，训练快、省显存。
英伟达发射了首个太空AI服务器，H100已上天
11月2日，英伟达首次将H100 GPU送入太空，搭载于Starcloud-1卫星测试AI处理应用。太空数据中心能源成本低、不占土地、少排温室气体，Starcloud计划未来大规模部署，还筹划后续任务。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
Mamba 架构实现推理性能超 Gemma3-27B！推理模型开始迈入「无注意力」时代
PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限，PromptCoT - Mamba实现无注意力推理，在多评测集超Transformer等模型，为无注意力推理生态奠基。
刚被马斯克收购，Cursor掏出新模型：10万卡加持，和Opus、GPT一样大
本周二，刚被SpaceX收购的Cursor在首届旗舰大会宣布新的1.5万亿+参数模型，在超10万块GPU预训练。Cursor CEO称其规模与Opus、GPT相当，还谈了对其他AI实验室看法，新模型将几周内发布。
AMD：“拿捏”了英特尔，还要给英伟达“上强度”？
2025年第一季度财报显示，AMD营收74.4亿美元、净利润7.1亿美元，同比双升。客户端业务超预期，桌面级CPU份额反超英特尔；数据中心业务增长，GPU待新品发力。不过，MI308出口受限或影响业绩。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
Fable 5手搓首个CUDA「超级内核」！2.5小时狂飙18.7倍
在GPU算子基准测试KernelBench - Mega中，Fable 5全程纯手搓CUDA，速度狂飙18.7倍，把GPT - 5.5甩开4倍多。它写出史上首个‘超级内核’，2.5小时约55万token完成编写。Anthropic联创称这标志‘RSI循环’开启。