「计算资源报告表」共找到 1288 篇相关文章
微软再放LLM量化大招!原生4bit量化,成本暴减,性能几乎0损失
微软公布BitNet v2,性能几乎0损失,占用内存和计算成本显著降低。它首次实现对1比特LLMs的原生4比特激活值量化,通过H - BitLinear模块处理异常通道,实验显示其在多方面表现优异。
一文讲透程序编排的核心方式:从表达式语言到并行化实践
文章围绕程序编排展开,介绍单语句编排、类编排、流程编排、并行化编排等核心方式,分析多种编排框架特点及适用场景,还提及Lindorm泛时序数据解决方案,为开发者提供编排参考。
腾讯混元TurboS技术报告首次全公开:560B参数混合Mamba架构,自适应长短链融合
腾讯公开混元TurboS技术报告,该模型是超大型Hybrid Transformer - Mamba架构MoE模型,融合Mamba与Transformer架构优势,有自适应长短思维链机制,激活参数56B。在多评测中表现佳,推理成本低。
华为| 祭出FlashComm1,FlashComm2、FlashComm3,解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下,华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信,提升推理性能;FlashComm 2重构计算流程,提升推理速度;FlashComm 3实现多流并行,激增模型吞吐。
企业级Agent落地有了样板间!百融硅基员工批量上岗,“按结果”领工资
百融智能中报显示,受外部因素影响公司总收入波动,但AICC业务同比增长52%。其已在金融场景打磨能力并向多行业复制,采用RaaS按结果收费模式,还提出“技术重构型AI Roll - up”概念。
大模型之外,向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。
冷战核废墟变8吉瓦AI超级工厂!黄仁勋押15亿,OpenAI独霸20年
英伟达、OpenAI和软银要将美国俄亥俄州冷战核废墟改造成全球最大AI超级工厂,终极电力规划达8吉瓦。黄仁勋宣布注资、担保,OpenAI签长约,孙正义改造电网,这或成稳赚买卖。
刚刚英伟达核弹级战略曝光!老黄宣布联手奥特曼圈地圈电,狂卷16GW算力霸权
英伟达宣布亲自下场锁定土地、电力和厂房等资源建超级AI工厂。与SB Energy联手在美拿下LPS容量,租客是OpenAI。文章分析合作原因、价值,解答外界疑问,称英伟达成全栈AI基建平台。
中国光芯片迎来“迈向高端”黄金窗口期
近期光芯片领域热度攀升,政策、产业、资本利好。AI算力爆发使光芯片从‘通信管道’升级为‘战略性资源’,需求大增但供给端短板凸显。本土产业链分层,高端赛道迎来突破窗口期,有三条主流技术路线。
存储大繁荣:盛宴与倒计时
AI带动存储行业繁荣,三星、美光、SK海力士一个月内登顶万亿美元市值,终结旧周期格局。中国长江存储和长鑫科技崛起,补全产业链拼图。但行业新旧范式切换,周期未终结,各方需应对挑战。