「算力集群」共找到 845 篇相关文章
全球首个完全AI编写的训练框架来了，速度反超英伟达：面壁要用 AI 把国产算力软件重写一遍
面壁智能发布全球首个全由AI编写的训练框架ForgeTrain，在华为昇腾系列上验证，速度超英伟达Megatron 10%。其构建分三阶段，目标是为不同需求“现场锻造”软件，还为国产算力软件生态赶超提供新思路。
互联网免费数据已被吃光，普通人反馈早没用了？前英伟达工程师：Transformer的原罪浪费算力，聊天机器人把GPU全糟蹋了
前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。
谷歌分布式训练开启另一轮扩展定律！百万芯片高压高故障仍然零全局停机
谷歌Decoupled DiLoCo研究打破大模型训练锁步模式，让集群各部分异步汇合。模拟数百万芯片高压训练时零全局停机、性能无损，还能提升系统有效工作时间，有算力撷取和异构计算等红利。
o3崛起，但推理模型离「撞墙」只剩一年？
OpenAI的o3推理模型诞生不到一年能力突飞猛进，算力暴增10倍。但Epoch AI等警告，最多一年推理模型或撞上算力资源极限。还从其他模型和业内人士看法分析推理算力，指出算力与性能有关联，也有发展瓶颈。
GPT-6抢先发布？Mythos被曝难产，算力惊人烧垮Anthropic
新智元报道，OpenAI狂烧6000亿且高管内讧，Anthropic收入暴涨但服务器扛不住。GPT - 6消息传得沸沸扬扬，Mythos却因算力难产。双方在算力、上市等方面竞争激烈，都面临困境。
OpenAI也缺卡！僧多粥少，自曝内部抢卡抢到发疯
OpenAI正面临绝对的算力稀缺，总裁Greg Brockman自曝内部算力资源争夺严重。算力是创新根本驱动力，因资源有限，许多产品无法发布，如ChatGPT Pulse部分功能仅对Pro用户开放。OpenAI有资源分配机制，但平衡各团队需求不易。
256G内存条涨到天价：不是内存条疯了，是算力正在变成新土地
近期，256GB内存条单根突破4万元。这并非普通DDR5，而是服务器专用内存。其价格飙升源于供需错配，大模型训练对大容量内存需求极端。有人认为是泡沫，也有人觉得是结构性变化。
Sora 为什么输给 Codex？
本文探讨Sora输给Codex的原因。奥特曼称因Sora太吃compute，Codex优先级更高。Sora算力连续独占，成本难摊薄；Codex算力碎片可复用，能交错服务多任务，资源回报曲线更好。
国产GPU又杀出一匹黑马！成立不到一年，两款芯片量产落地
在国产算力从‘技术可用’向‘场景好用’转型时，成立不到一年的芯桥半导体携Sinexus X200、S200系列国产高性能GPGPU产品杀入战场，构建全栈式解决方案，适配多行业场景。
每2秒吃透一道高数大题！华为终于揭秘准万亿MoE昇腾训练系统全流程
华为揭秘准万亿MoE昇腾训练系统全流程，通过“昇腾+Pangu Ultra MoE”实现国产算力与模型自主可控训练闭环，从集群利用率、单节点算力、后训练技术三方面突破，实现大模型高效训练。