「算力消耗」共找到 891 篇相关文章
9.7K Star 把 AI 编码的 token 消耗砍了 16 倍
当前AI编码工具默认读取整个项目文件,token消耗高。code-review-graph项目用Tree-sitter解析代码库成图,追踪改动“爆炸半径”,平均省8.2倍token,技术轻量,还能做社区检测。它揭示AI编码瓶颈在信息输入质量。
烧光600亿,小扎再砍元宇宙1500人!6000亿豪赌算力帝国
Meta计划裁减Reality Labs 10%员工,约1500人,元宇宙相关岗位首当其冲。自2020年起,Meta在元宇宙投入超600亿美元却未形成稳定收入。同时,Meta推出绩效改革,顶尖员工最高拿300%奖金,还官宣千亿豪赌算力帝国。
小模型代替顶级闭源:微软用4B小助理,砍掉30% Token消耗
微软研究团队提出实用方案,用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务,采用SFT和RL策略打造子智能体,经测试效果良好,节省Token消耗。
AI 巨头对话:Sam Altman 与 Satya Nadella 论 AI 未来、算力与微软王牌
OpenAI的Sam Altman和微软的Satya Nadella在播客中探讨AI未来等话题。涉及1.4万亿算力投入、微软与OpenAI新合作协议细节,指出瓶颈在数据中心和电力,还谈及AI经济模型、未来愿景等。
魔幻...硅谷精英最爱潮鞋转型AI算力基建,股价单日狂飙数倍
曾经估值超40亿美元的美国环保鞋品牌Allbirds,以3900万美元卖掉资产,宣布转型做AI算力基建,改名NewBird AI。其股价当日涨数倍,但分析师认为是市场追AI概念,转型前景存疑。
Meta员工空转AI只为浪费token!烧的多挣的多,日均消耗2万亿
Meta内部在首席AI官亚历山大王推动下,员工为抢夺虚荣头衔展开“Token竞技”,日均消耗两万亿Token。这源于扎克伯格重写代码库要求,首席技术官支持资源投入。新模型将半开源,嵌入社交业务。
「10亿入口」只差一步!奥特曼拉上三巨头,1100亿美元算力圈地
ChatGPT周活超9亿,付费个人订阅超5000万,付费企业用户逼近千万。OpenAI获1100亿美元融资,亚马逊、英伟达与软银入局。OpenAI双线布局算力,但其市场份额被对手追赶,AI竞争格局激烈。
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意
WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。
DeepMind掌门自曝AGI倒计时5年!算力需求暴增10倍,推理计算吞噬一切
在最新播客中,DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏,还提及迈向AGI要扩大计算规模,算力需求或增10倍,且运营上以初创公司模式兼顾研究与产品。