「GPU内核优化」共找到 1625 篇相关文章
英伟达:祝贺谷歌TPU成功,但GPU领先一代
谷歌凭Nano Banana Pro、Gemini 3大获全胜,且Gemini 3用自研TPU。谷歌向客户推介TPU本地部署方案,欲抢占AI芯片算力市场。英伟达紧急发声强调自身核心地位,还砸钱拉拢大客户。
黄仁勋搬来华尔街5000亿,买GPU可以按揭了
8月11日,英伟达宣布与六家金融机构合作,成立算力融资平台,欲动员超5000亿美元,把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产,客户按需付费,但英伟达股价不涨反跌,这场豪赌结果待察。
纯CPU“踢开”GPU,中国超算九年后再登顶!
6月23日,国家超级计算深圳中心“灵晟”超算以2.19EFlops性能登顶全球超算TOP500榜单,这是世界首台超2EFlops的超算系统。它基于“灵鲲”平台,采用纯CPU设计,展现我国超算全栈自主可控能力。
千星项目LLMRouter:多模型路由,16+策略优化推理
UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。
黄仁勋达沃斯首秀:GPU一卡难求,何来AI泡沫?
英伟达CEO黄仁勋在达沃斯首秀时力挺AI,提出‘五层蛋糕理论’,总结2025年‘三件大事’。他认为AI能增加就业、推动经济,回击‘AI泡沫论’,号召各国构建自己的AI。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
老黄极限游说成功!美国想卖中国英伟达GPU了?
英伟达CEO黄仁勋亲自游说,使限制其先进AI芯片出口的《GAIN AI法案》未被塞进国防法案。此前“对华鹰派”与英伟达等行业巨头激烈博弈,虽法案暂时搁浅,但新提案正在酝酿。
Anthropic官方解密:3招上下文优化,破解Agent性能暴跌
本文是Anthropic官方文章翻译,从提示词工程拓展到上下文工程,阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成,还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。
突发,马斯克xAI解散了!22万张GPU忍痛全给Claude
马斯克官宣解散xAI并入SpaceX,同时将全球最强超算Colossus 1租给Claude。此前xAI与OpenAI竞争不利,Grok表现不佳且亏损严重。马斯克此举类似谷歌策略,可赚钱、扶持对手、盘活资产,还在法庭起诉OpenAI。
无需租GPU,一台24GB内存的笔记本就够了!
阿里开源稀疏 MoE 模型 Qwen3.6-35B-A3B,总参数 35B,激活 3B。它在智能体编程上超越前代,可与稠密模型媲美,支持多模态,已在 Qwen Studio 上线,还能集成第三方编程助手。