「GPU显存」共找到 468 篇相关文章
妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒
斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」,将Llama - 1B前向传播融入单一GPU内核,H100上提速1.5倍,B200上每次推理仅0.00068秒,比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。
摩尔线程背后大赢家:早期投资人回报已超6200倍
摩尔线程今日登陆科创板,市值达2800亿。其自创立受资本关注,融资超百亿。沛县乾曜早期190万投资增值超6200倍。虽曾遇美国制裁危机,但仍业绩增长,彰显了国产GPU企业的突围能力。
DeepSeek不惜代价保住它!V4关键特性被挖出来了
DeepSeek V4技术报告被深挖,为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐,是复杂上下文系统底座,但会牺牲GPU利用率等,换来训练等多阶段可复现和稳定度。
上海又要冲出一个百亿芯片IPO
近日,瀚博半导体与中信证券签署上市辅导协议,冲刺A股科创板。其由前AMD核心技术领袖钱军、张磊创立,选差异化技术路径,已历6轮融资。当前国产GPU IPO潮起,瀚博有望借此抢占市场。
训练成本暴降99%,35秒出1分钟高清视频!英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构,其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署,重新定义AI视频生成效率极限。
阿里云容器服务覆盖AI全流程,团队透露:OpenAI训练GPT时就用了我们的开源能力
拿下中国AI云市场第一后,阿里云技术产品负责人开展AI Infra分享会。其全栈云计算搭好技术架子,10万GPU集群高效互联,容器服务贯穿AI全流程,还透露OpenAI训练GPT时用了其开源能力。
上市后的摩尔线程,重心从造芯变成建生态
上市刚满15天的摩尔线程在MDC 2025大会展示全栈技术成果,回应市场关注。其创始人强调生态是GPU行业核心,正构建MUSA生态体系,MUSA架构升级,还揭晓‘花港’架构及两款芯片技术路线。
The Batch: 860 | 美国解除对华AI芯片禁令
美国政府允许英伟达和AMD向中国供应符合出口限制的GPU,如英伟达H20和AMD MI308。此前美国曾阻止出口,此次是在黄仁勋游说后改变决定,也因中国放宽稀土永磁体出口管制。
刚刚,H20重返中国!老黄亲自斡旋,还有特供版RTX PRO
英伟达官宣恢复向中国销售H20,并推出全新NVIDIA RTX PRO GPU。此前H20因贸易限制被禁售,此次解禁或是老黄来华大礼。不过H20已属‘上个时代产物’,且有新‘继任者’B30。
一文彻底看懂AI-RAN
文章介绍AI - RAN,即人工智能无线接入网,英伟达力推将GPU用于基站。AI - RAN有开拓市场、提升基站性能等作用。产业进展方面,英伟达联合多方推动,通信行业形成加入和自主探索阵营,其发展还面临诸多挑战。