「算力成本」共找到 2252 篇相关文章

开源动态8

集合通信库VCCL释放GPU极致算力,创智、基流、智谱、联通、北航、清华、东南重磅开源

在超大规模智算集群需求下,创智、基流等多方联合开源集合通信库VCCL。它基于NCCL开发,有智能调度、容错、细粒度观测机制,实测能提升算力利用率、降低故障率,还解决了服务器异构等问题。

机器之心
新闻资讯8

2亿枚AI芯片大爆发,人类最大基建集体开工!

全球投入使用的AI芯片总算力相当于约2000万枚英伟达H100芯片,预计到2028年底达2亿枚。数据中心进入百万级算力时代,投入资金巨大。算力提升使模型和Agent能力增强,AI还参与自身研发优化。

新智元
产品应用8

裸辞北大博士带17个Agent,49天造出全球首个AI开放世界!成本仅5000

北大文科博士刘耕带17个Agent,49天、5000元成本、30万行代码造出全球首个AI开放世界Elseland。其玩法、世界、创造都具开放性,刘耕逆风突围,开发效率大幅提升。

新智元
算法论文8

训练成本暴降99%,35秒出1分钟高清视频!英伟达MIT等引爆视频AI革命

英伟达联合MIT、港大团队提出SANA - Video架构,其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署,重新定义AI视频生成效率极限。

新智元
产品应用8

Agent 跑分追平 Codex、成本低至 1.95 美元,这家中国公司做到了

德勤报告显示86%多Agent项目落地失败,硅谷也出现‘无限智能体死循环’。EvoMap团队的EvoX采用‘蜂群式自进化’打法,系统容错率翻倍、完成率跃升,成本大幅降低。跑分追平Codex,还展现出自组织潜力。

AI科技评论
产品应用8

RL后训练步入超节点时代!华为黑科技榨干算力,一张卡干俩活

在大模型竞赛白热化当下,强化学习后训练成突破LLM性能天花板核心路径,但算力浪费和集群效率低是难题。华为团队祭出两大黑科技破局,在超节点实现训推共卡,资源利用率翻倍,还提升训练速度。

新智元
新闻资讯8

英伟达通用机器人芯片来了:AI算力提升7.5倍,宇树、银河通用已搭载

本周一,英伟达发布新一代机器人专用芯片Jetson Thor,算力是上一代7.5倍,能效3.5倍,内存容量翻倍。适配新算法,支持多种模型,已受大量厂商重视,相关产品已发售或开放预订。

机器之心
新闻资讯8

AI 的经济账根本算不通

文章指出AI经济账算不通,如GitHub Copilot将按用量计费,此前微软补贴用户算力;AI订阅服务成本波动大,欺骗用户;AI数据中心建设和运营成本高、收入少,依赖少数客户,OpenAI和Anthropic盈利难,可能影响相关企业。

宝玉AI
新闻资讯7

奥特曼刚刚发文,10GW核爆级算力!每周一座核电站,五座新城官宣

继英伟达千亿投资OpenAI后,「星际之门」官宣新增五个站点,预计年底前达成10GW目标。奥特曼发文称要打造每周GW级「AI工厂」,认为AI无限算力或可治愈癌症。

新智元
算法论文8

为MoE解绑:全新「专家即服务」推理架构发布,超细粒度扩展锐减37.5%成本

近年来大模型推理开销增长,MoE架构虽能避免计算量同比增,但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS,实验显示它能锐减37.5%成本。

机器之心