「GPU资源消耗」共找到 900 篇相关文章
当 Agent 走出 App：WorkBuddy 的朋友圈开始向外生长
9月2日深圳的WorkBuddy生态发布会，展示9款联名硬件，有30多个硬件品牌、30多个Buddy应用、100多个开放平台共创伙伴参与。WorkBuddy开放Agent能力，连接伙伴资源，解决数据和专业经验难题，开放硬件、应用与平台三层，但面临价值分配等问题。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
嘘，Claude正在「做梦」！睡一觉疯狂进化，一夜暴涨6倍战力
Anthropic在Code with Claude开发者大会上，给Claude托管智能体添加Dreaming功能，让其能自动回顾记忆、自我进化，还发布Outcomes和多智能体编排。法律AI公司Harvey用后任务完成率飙升约6倍。Anthropic还租下22万张GPU算力。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
Claude灾难级大宕机，全球开发者集体炸锅！Anthropic三连翻车被怒喷
4月6日Claude新功能Ultraplan上线就遭遇大规模宕机，开发者看到满屏‘授权失败’等。此前源码泄露，现又被指修改系统提示词报错、性能下降。虽Ultraplan有效果，但token消耗大，Anthropic太急，产品稳定性堪忧。
Claude Sonnet 5：更强，但更贵，每任务成本反超Opus 4.8
Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5，但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳，推出促销价，不过促销后成本待察。评估迁移时需算 token 消耗。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
想进OpenAI？先解出这道题，百万美元算力已就位
OpenAI发起Model Craft Challenge「Parameter Golf」项目，要求在固定数据集上降验证损失，模型产物控制在16MB内，8张H100 GPU 10分钟完成训练。提供百万美元算力，6月招早期人才，挑战3月18日至4月30日。
Token 新译名：「智元」
文章讨论Token新译名「智元」，认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性，OpenClaw消耗大量智元引争议，还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。
微软、哈佛开源创新优化器：全面超越Muon，提升大模型训练效率
随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。