「算力管理」共找到 1269 篇相关文章
OpenAI单月收入突破10亿美元!算力严重不足,急需“星际之门”
OpenAI首席财务官Sarah Friar透露7月单月收入破10亿美元,因GPT - 5发布和新订阅服务,算力压力大,所以联合投资打造“星际之门”。虽GPT - 5有争议,但订阅用户增长,开发者反馈好。
大模型推理加速全链路:内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。
Claude两个新模型实测流出!空间推理封神,算力直接榨干了
Claude两款新模型“棉花糖”和“甜瓜”实测流出,在3D强化学习和建筑空间布局上性能强大,还能直接理解并生成复杂3D坐标和空间关系。它们对算力吞噬疯狂,引发对其身份的猜测。
个人开发者训400亿参数大模型:分布式算力,DeepSeek架构,3090单卡部署
Nous Research推出Psyche Network,可整合全球算力训练AI。它基于Deepseek的V3 MLA架构,有DisTrO优化器等技术,能让个人和小团体创建大规模模型,还实现40B参数LLM预训练。
斩获6.1 star,再见Crontab!这款开源定时任务管理系统让运维更高效
Gocron是基于Go语言的轻量级定时任务管理系统,可替代Linux Crontab。它有可视化界面、秒级调度等功能,适用于自动化运维等场景,通过Docker一键部署,比同类项目更具优势。
烧光600亿,小扎再砍元宇宙1500人!6000亿豪赌算力帝国
Meta计划裁减Reality Labs 10%员工,约1500人,元宇宙相关岗位首当其冲。自2020年起,Meta在元宇宙投入超600亿美元却未形成稳定收入。同时,Meta推出绩效改革,顶尖员工最高拿300%奖金,还官宣千亿豪赌算力帝国。
AI 巨头对话:Sam Altman 与 Satya Nadella 论 AI 未来、算力与微软王牌
OpenAI的Sam Altman和微软的Satya Nadella在播客中探讨AI未来等话题。涉及1.4万亿算力投入、微软与OpenAI新合作协议细节,指出瓶颈在数据中心和电力,还谈及AI经济模型、未来愿景等。
魔幻...硅谷精英最爱潮鞋转型AI算力基建,股价单日狂飙数倍
曾经估值超40亿美元的美国环保鞋品牌Allbirds,以3900万美元卖掉资产,宣布转型做AI算力基建,改名NewBird AI。其股价当日涨数倍,但分析师认为是市场追AI概念,转型前景存疑。
「10亿入口」只差一步!奥特曼拉上三巨头,1100亿美元算力圈地
ChatGPT周活超9亿,付费个人订阅超5000万,付费企业用户逼近千万。OpenAI获1100亿美元融资,亚马逊、英伟达与软银入局。OpenAI双线布局算力,但其市场份额被对手追赶,AI竞争格局激烈。
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意
WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。