算力消耗」共找到 891 篇相关文章

开源动态8

9.7K Star 把 AI 编码的 token 消耗砍了 16 倍

当前AI编码工具默认读取整个项目文件,token消耗高。code-review-graph项目用Tree-sitter解析代码库成图,追踪改动“爆炸半径”,平均省8.2倍token,技术轻量,还能做社区检测。它揭示AI编码瓶颈在信息输入质量。

CourseAI
新闻资讯7

烧光600亿,小扎再砍元宇宙1500人!6000亿豪赌算力帝国

Meta计划裁减Reality Labs 10%员工,约1500人,元宇宙相关岗位首当其冲。自2020年起,Meta在元宇宙投入超600亿美元却未形成稳定收入。同时,Meta推出绩效改革,顶尖员工最高拿300%奖金,还官宣千亿豪赌算力帝国。

新智元
推荐文章7

小模型代替顶级闭源:微软用4B小助理,砍掉30% Token消耗

微软研究团队提出实用方案,用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务,采用SFT和RL策略打造子智能体,经测试效果良好,节省Token消耗

AIGC开放社区
8

AI 巨头对话:Sam Altman 与 Satya Nadella 论 AI 未来、算力与微软王牌

OpenAI的Sam Altman和微软的Satya Nadella在播客中探讨AI未来等话题。涉及1.4万亿算力投入、微软与OpenAI新合作协议细节,指出瓶颈在数据中心和电力,还谈及AI经济模型、未来愿景等。

宝玉AI
新闻资讯7

魔幻...硅谷精英最爱潮鞋转型AI算力基建,股价单日狂飙数倍

曾经估值超40亿美元的美国环保鞋品牌Allbirds,以3900万美元卖掉资产,宣布转型做AI算力基建,改名NewBird AI。其股价当日涨数倍,但分析师认为是市场追AI概念,转型前景存疑。

DeepTech深科技
新闻资讯7

Meta员工空转AI只为浪费token!烧的多挣的多,日均消耗2万亿

Meta内部在首席AI官亚历山大王推动下,员工为抢夺虚荣头衔展开“Token竞技”,日均消耗两万亿Token。这源于扎克伯格重写代码库要求,首席技术官支持资源投入。新模型将半开源,嵌入社交业务。

量子位
新闻资讯7

「10亿入口」只差一步!奥特曼拉上三巨头,1100亿美元算力圈地

ChatGPT周活超9亿,付费个人订阅超5000万,付费企业用户逼近千万。OpenAI获1100亿美元融资,亚马逊、英伟达与软银入局。OpenAI双线布局算力,但其市场份额被对手追赶,AI竞争格局激烈。

新智元
新闻资讯7

供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意

WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。

量子位
开源动态8

openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%

传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。

机器之心
新闻资讯8

DeepMind掌门自曝AGI倒计时5年!算力需求暴增10倍,推理计算吞噬一切

在最新播客中,DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏,还提及迈向AGI要扩大计算规模,算力需求或增10倍,且运营上以初创公司模式兼顾研究与产品。

新智元