「算力引擎」共找到 1094 篇相关文章
AI算力大战打到太空!英伟达前脚H100入轨,谷歌TPU后脚上天,中国玩家笑而不语
英伟达和谷歌在太空算力布局上竞争激烈,英伟达H100已入轨,谷歌TPU预计2027年初上天,二者都想建吉瓦级数据中心。太空部署有成本、散热等优势,但也有工程挑战,而中国之江实验室星座已商用。
微软亚洲研究院机器学习组首席研究员刘炜清确认出席 AICon 深圳,分享由生成式基础模型驱动的金融市场仿真引擎
8月22 - 23日,首届AICon全球人工智能开发与应用大会深圳站将启。微软亚洲研究院刘炜清等专家将分享经验。刘炜清会介绍由生成式基础模型驱动的金融市场仿真引擎MarS,展示其在金融场景潜力。
全球首个完全AI编写的训练框架来了,速度反超英伟达:面壁要用 AI 把国产算力软件重写一遍
面壁智能发布全球首个全由AI编写的训练框架ForgeTrain,在华为昇腾系列上验证,速度超英伟达Megatron 10%。其构建分三阶段,目标是为不同需求“现场锻造”软件,还为国产算力软件生态赶超提供新思路。
互联网免费数据已被吃光,普通人反馈早没用了?前英伟达工程师:Transformer的原罪浪费算力,聊天机器人把GPU全糟蹋了
前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”,AI 终局应是后台 Agent。他执行“算力拾荒者战略”,想降低智能成本,还指出 Transformer 架构有缺陷,互联网数据被吃光等问题。
刚刚,马斯克收购了马斯克
SpaceX 宣布收购 xAI,合并后公司估值达 1.25 万亿美元。此举旨在打造宏伟创新引擎,将 AI 与航天等技术结合,利用太空资源满足 AI 算力需求,推动人类太空探索与发展。
单卡跑出集群效率!Hugging Face TRL 与 RapidFire AI 的超并行革命
Hugging Face宣布其核心微调库TRL集成RapidFire AI,重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎,提升实验验证速度,解决算力受限团队的调参难题,带来效能质变。
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
o3崛起,但推理模型离「撞墙」只剩一年?
OpenAI的o3推理模型诞生不到一年能力突飞猛进,算力暴增10倍。但Epoch AI等警告,最多一年推理模型或撞上算力资源极限。还从其他模型和业内人士看法分析推理算力,指出算力与性能有关联,也有发展瓶颈。
GPT-6抢先发布?Mythos被曝难产,算力惊人烧垮Anthropic
新智元报道,OpenAI狂烧6000亿且高管内讧,Anthropic收入暴涨但服务器扛不住。GPT - 6消息传得沸沸扬扬,Mythos却因算力难产。双方在算力、上市等方面竞争激烈,都面临困境。
OpenAI也缺卡!僧多粥少,自曝内部抢卡抢到发疯
OpenAI正面临绝对的算力稀缺,总裁Greg Brockman自曝内部算力资源争夺严重。算力是创新根本驱动力,因资源有限,许多产品无法发布,如ChatGPT Pulse部分功能仅对Pro用户开放。OpenAI有资源分配机制,但平衡各团队需求不易。