「算力瓶颈」共找到 1299 篇相关文章
「10亿入口」只差一步!奥特曼拉上三巨头,1100亿美元算力圈地
ChatGPT周活超9亿,付费个人订阅超5000万,付费企业用户逼近千万。OpenAI获1100亿美元融资,亚马逊、英伟达与软银入局。OpenAI双线布局算力,但其市场份额被对手追赶,AI竞争格局激烈。
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意
WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。
DeepMind掌门自曝AGI倒计时5年!算力需求暴增10倍,推理计算吞噬一切
在最新播客中,DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏,还提及迈向AGI要扩大计算规模,算力需求或增10倍,且运营上以初创公司模式兼顾研究与产品。
数GPU,看未来:一张表看懂中美AI公司的真实实力差距,算力盘点
文章全面盘点中美头部AI公司GPU数量、资本开支和算力规划。美国科技巨头疯狂投入,如Meta、微软等;中国公司在禁令下抢购囤货并加速国产替代,如字节跳动、阿里等。还分析了中美差距及投资关注点。
集合通信库VCCL释放GPU极致算力,创智、基流、智谱、联通、北航、清华、东南重磅开源
在超大规模智算集群需求下,创智、基流等多方联合开源集合通信库VCCL。它基于NCCL开发,有智能调度、容错、细粒度观测机制,实测能提升算力利用率、降低故障率,还解决了服务器异构等问题。
奥特曼曝惊世预言:2035年GPT-8治愈癌症!人类将为算力爆发三战
新智元报道,GPT - 5发布引热议,奥特曼在访谈中金句不断。他预言2027年AI有重大科学突破,2035年GPT - 8或治愈癌症,2050年人类可能为AGI算力争夺爆发三战,还谈及AI发展瓶颈、对人类影响等。
算力账单暴涨!你给OpenAI花的钱,全成了三星SK海力士的年终奖
英伟达副总裁称AI算力账单超员工工资,Uber也烧光AI预算。钱流向了三星和SK海力士,它们利润率反超英伟达。OpenAI预订了未来三年产能,因HBM物理特性扩产难,钱最终成韩国工程师年终奖。
RL后训练步入超节点时代!华为黑科技榨干算力,一张卡干俩活
在大模型竞赛白热化当下,强化学习后训练成突破LLM性能天花板核心路径,但算力浪费和集群效率低是难题。华为团队祭出两大黑科技破局,在超节点实现训推共卡,资源利用率翻倍,还提升训练速度。
英伟达通用机器人芯片来了:AI算力提升7.5倍,宇树、银河通用已搭载
本周一,英伟达发布新一代机器人专用芯片Jetson Thor,算力是上一代7.5倍,能效3.5倍,内存容量翻倍。适配新算法,支持多种模型,已受大量厂商重视,相关产品已发售或开放预订。