「算力部署」共找到 1442 篇相关文章
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意
WAIC期间,商汤大装置举办AI基础设施论坛,展示国产算力成绩单,将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论,提升芯片利用率,还在多领域合作,虽红利或收窄,但方法论有长期价值。
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。
DeepMind掌门自曝AGI倒计时5年!算力需求暴增10倍,推理计算吞噬一切
在最新播客中,DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏,还提及迈向AGI要扩大计算规模,算力需求或增10倍,且运营上以初创公司模式兼顾研究与产品。
养虾时代终结?免部署、7×24小时在线、自进化的“赛博骡子”来了!
全球首个自进化个人AI——MuleRun(骡子快跑)正式发布,免部署、7×24小时在线、可自主进化。它适配个体需求、实现群体智慧共享,能完成多类任务,还保障安全、提供售后。
集合通信库VCCL释放GPU极致算力,创智、基流、智谱、联通、北航、清华、东南重磅开源
在超大规模智算集群需求下,创智、基流等多方联合开源集合通信库VCCL。它基于NCCL开发,有智能调度、容错、细粒度观测机制,实测能提升算力利用率、降低故障率,还解决了服务器异构等问题。
为什么95%的智能体都部署失败了?这个圆桌讨论出了一些常见陷阱
硅谷圆桌论坛指出,95%的AI智能体部署失败,原因并非模型不智能,而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题,给出创业者需思考的问题。
算力账单暴涨!你给OpenAI花的钱,全成了三星SK海力士的年终奖
英伟达副总裁称AI算力账单超员工工资,Uber也烧光AI预算。钱流向了三星和SK海力士,它们利润率反超英伟达。OpenAI预订了未来三年产能,因HBM物理特性扩产难,钱最终成韩国工程师年终奖。
RL后训练步入超节点时代!华为黑科技榨干算力,一张卡干俩活
在大模型竞赛白热化当下,强化学习后训练成突破LLM性能天花板核心路径,但算力浪费和集群效率低是难题。华为团队祭出两大黑科技破局,在超节点实现训推共卡,资源利用率翻倍,还提升训练速度。
光计算如何走向实际部署?清华、上交提出光计算走向实用化的技术路线图
传统电子计算算力遇瓶颈,光计算成为下一代算力新方向。清华与上海交大研究团队联合在Nature Nanotechnology发表研究,提出国际首个光计算实用化统一评价框架与技术路线图,为光计算落地部署提供明确指导。
英伟达通用机器人芯片来了:AI算力提升7.5倍,宇树、银河通用已搭载
本周一,英伟达发布新一代机器人专用芯片Jetson Thor,算力是上一代7.5倍,能效3.5倍,内存容量翻倍。适配新算法,支持多种模型,已受大量厂商重视,相关产品已发售或开放预订。