「GPU调度」共找到 553 篇相关文章

新闻资讯7

供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意

WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。

量子位
开源动态8

英伟达MoE新开源:一行import,微调加速3.7倍

英伟达开源NeMo AutoModel,基于Hugging Face Transformers v5,不改代码API,添一行import就能更快速微调MoE模型。实验显示,它能提升3.4 - 3.7倍训练吞吐,减少29% - 32% GPU显存占用。

量子位
开源动态8

从 Serverless 到 Agent:Cube 系统的一些设计思考

本文从 Serverless 面临的挑战出发,介绍 Cube 系统设计,包括分布式调度、资源池化等。还探讨其在 Agent 场景应用,如极速代码执行、高并发 Agentic RL 等,最后展望向行业开源,助力 Agent Infra 发展。

InfoQ
推荐文章8

为什么算力追赶这么难?前谷歌架构师现场黑板推演底层架构,看懂芯片底层逻辑里被忽视的“空间博弈”

前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起,推导芯片架构,指出芯片大部分成本花在搬运数据上,还探讨乘加运算、脉动阵列等原理,以及时钟周期、FPGA与ASIC差异等内容。

AI科技大本营
开源动态8

北大联合Llama-Factory推出DataFlex:工业级数据动态训练系统

北大张文涛教授、鄂维南院士团队联合多机构推出大模型数据中心动态训练框架DataFlex。它是统一训练基础设施,纳入三类核心能力,解决底层系统问题,在效率和效果上有提升,受社区认可。

机器之心
开源动态8

字节清华智能体自动写CUDA内核,比torch.compile加速2.11倍

字节Seed与清华AIR团队开源CUDA Agent,在GPU内核优化基准KernelBench上成绩优异。它是大规模智能体强化学习系统,训练数据经多阶段构建,分阶段训练,全面超越商业模型,还开源了训练数据集。

量子位
新闻资讯8

连中摩尔沐曦海光,成都国资赢麻了

摩尔线程与沐曦上市引爆国产GPU赛道热情,其背后均有成都高新区国有资本身影。此前,成都高新区还是海光信息二股东,收获丰厚回报。它通过“以投带引”盘活产业链,推动产业升级。

芯师爷
新闻资讯8

5Y News|祝贺摩尔线程成功登陆科创板!

2025年12月5日,摩尔线程在科创板上市,成中国首家登陆资本市场的全功能GPU企业。它以自主创新为根基研发芯片,构建起技术体系,商业表现佳,上市募资将投入芯片研发,助力国家数字经济发展。

五源资本 5Y Capital
产品应用7

关键技术详解|腾讯一念 LLM 分布式推理优化实践

InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等,还对比不同框架,指出优化方向,如先实现 PP,再推进 EP 与 PD 分离。

InfoQ
新闻资讯8

刚刚,OpenAI官宣自研造芯,联手博通开发10吉瓦规模的AI加速器

今天凌晨,OpenAI宣布与博通战略合作,共同部署其设计的10吉瓦规模AI加速器,预计2026下半年起部署机架,2029年底完成。此次合作将减少其对英伟达GPU依赖,采用多元化算力策略。

机器之心