GPU内核优化」共找到 1625 篇相关文章

新闻资讯7

英伟达:祝贺谷歌TPU成功,但GPU领先一代

谷歌凭Nano Banana Pro、Gemini 3大获全胜,且Gemini 3用自研TPU。谷歌向客户推介TPU本地部署方案,欲抢占AI芯片算力市场。英伟达紧急发声强调自身核心地位,还砸钱拉拢大客户。

量子位
新闻资讯7

黄仁勋搬来华尔街5000亿,买GPU可以按揭了

8月11日,英伟达宣布与六家金融机构合作,成立算力融资平台,欲动员超5000亿美元,把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产,客户按需付费,但英伟达股价不涨反跌,这场豪赌结果待察。

新智元
8

纯CPU“踢开”GPU,中国超算九年后再登顶!

6月23日,国家超级计算深圳中心“灵晟”超算以2.19EFlops性能登顶全球超算TOP500榜单,这是世界首台超2EFlops的超算系统。它基于“灵鲲”平台,采用纯CPU设计,展现我国超算全栈自主可控能力。

芯师爷
开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
新闻资讯8

黄仁勋达沃斯首秀:GPU一卡难求,何来AI泡沫?

英伟达CEO黄仁勋在达沃斯首秀时力挺AI,提出‘五层蛋糕理论’,总结2025年‘三件大事’。他认为AI能增加就业、推动经济,回击‘AI泡沫论’,号召各国构建自己的AI。

芯师爷
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
新闻资讯7

老黄极限游说成功!美国想卖中国英伟达GPU了?

英伟达CEO黄仁勋亲自游说,使限制其先进AI芯片出口的《GAIN AI法案》未被塞进国防法案。此前“对华鹰派”与英伟达等行业巨头激烈博弈,虽法案暂时搁浅,但新提案正在酝酿。

新智元
推荐文章8

Anthropic官方解密:3招上下文优化,破解Agent性能暴跌

本文是Anthropic官方文章翻译,从提示词工程拓展到上下文工程,阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成,还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。

AI产品自由
新闻资讯7

突发,马斯克xAI解散了!22万张GPU忍痛全给Claude

马斯克官宣解散xAI并入SpaceX,同时将全球最强超算Colossus 1租给Claude。此前xAI与OpenAI竞争不利,Grok表现不佳且亏损严重。马斯克此举类似谷歌策略,可赚钱、扶持对手、盘活资产,还在法庭起诉OpenAI。

新智元
开源动态7

无需租GPU,一台24GB内存的笔记本就够了!

阿里开源稀疏 MoE 模型 Qwen3.6-35B-A3B,总参数 35B,激活 3B。它在智能体编程上超越前代,可与稠密模型媲美,支持多模态,已在 Qwen Studio 上线,还能集成第三方编程助手。

GitHubStore