「GPU调度」共找到 552 篇相关文章

新闻资讯7

英特尔「亲爹」要买干儿子?CEO陈立武的双重身份藏不住了

英特尔考虑拿下SambaNova,现任CEO陈立武还是SambaNova执行董事长。英特尔此前GPU发展滞后,此次是重新发力AI芯片赛道。SambaNova曾想融资,若被收购估值或缩水,其目标是挑战英伟达。

新智元
产品应用8

破解300年数学难题,智能体大突破!谷歌发布超强AI Agent

今天凌晨谷歌Deepmind发布编程AI Agent——AlphaEvolve,它与Gemini深度集成,能评估算法。它解决了300多年的数学难题,还提出新算法,提升大模型计算效率,可优化GPU指令,架构含多模块。

AIGC开放社区
推荐文章7

SpaceX:天基基础设施垄断者

传言SpaceX明年将IPO,作者认为其正把‘先发优势’转为‘物理垄断’,将成‘人类未来天基基础设施的唯一垄断者’。它有极强运力成本优势,能抢占轨道和频谱资源,变现方式或为把GPU发上天。

newtype AI
开源动态8

他们让万亿参数RL学会了「省着跑」,顺便砍掉九成算力

2025年,强化学习成大模型进化主战场,但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练,GPU消耗降90%,技术开源。此外还有Memory Diffusion记忆机制等成果。

量子位
推荐文章8

AI Infra进阶:如何让大模型输出确定的结果

文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。

腾讯技术工程
技术实践8

RTP-LLM 在相关性大模型中的推理优化最佳实践

淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。

阿里云开发者
新闻资讯7

256G比5090还贵!内存一年暴涨3倍,全球为奥特曼豪赌买单

全球内存供不应求,价格一年暴涨3倍。奥特曼的采购锁定40%产能,巨头转向高利润AI产品致中低端内存锐减。2026年内存短缺或重塑市场,GPU也将涨价,大家都要为AI发展买单。

新智元
推荐文章7

硬核拆解 OpenClaw:如何构建真正稳健的生产级 Agent 系统?【上】

本文深入剖析 OpenClaw 的 Agent 任务引擎,介绍其‘工作室’、整体架构、调度与并发控制、高可用与容错机制等。指出其架构有工程智慧,对构建生产级 Agent 系统有参考价值,下篇将介绍更多实践。

AI大模型应用实践
新闻资讯8

芯片大地震,黄仁勋355亿入股!英特尔要为老黄造CPU,股价狂飙30%

芯片行业投下重磅炸弹,英伟达斥资50亿美元入股英特尔成大股东。两家合作,英特尔为英伟达定制x86 CPU,还将推出集成英伟达GPU的系统级芯片,此合作改写行业格局。

新智元
开源动态7

DeepSeek悄悄更新:Mega MoE、FP4 Indexer来了

昨天下午,DeepSeek 更新了 DeepGEMM 代码库,带来新东西 Mega MoE。它将 MoE 计算流程整合,让数据通信和计算同时发生,提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等,是基础设施层重构尝试。

机器之心