B200 GPU」共找到 1277 篇相关文章

算法论文7

上交大和辉羲把LLM刻进ROM!推理性能冲2万token/s,GPU时代终结?

硅谷Taalas将大模型‘物理焊死’进芯片引关注,而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构,将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。

新智元
新闻资讯8

黄仁勋CES回应全场!内存卡了GPU脖子,游戏玩家可能只能用旧显卡了

在CES 2026上,黄仁勋围绕物理AI发言,涉及机器人、自动驾驶等。他预计今年有类人机器人,推出自动驾驶模型Alpamayo 1。因内存成本和供应问题,或复产旧显卡,还谈了AI对游戏影响及内存规划等。

量子位
新闻资讯7

1吨旧手机能提取约200克黄金?你家的闲置手机可以这样处理→

我国年均产生废旧手机超4亿部,回收率低,因回收价低、信息安全顾虑,大量闲置。但旧手机资源回收价值高,“以旧换新”政策和技术升级正推动回收产业发展,打消消费者顾虑。

昆明走进自然户外
开源动态8

华为开源突破性技术Flex:ai,AI算力效率直升30%,GPU、NPU一起用

11月21日,华为发布AI容器技术Flex:ai并联合高校将其开源。该技术基于Kubernetes构建,有三大核心突破,能提升算力利用率,异构兼容性优于Run:ai,将推动国产算力应用。

机器之心
新闻资讯7

哈佛CS博士月入4000,抢GPU搞科研!硅谷百万年薪挖人,学界疯狂逃离

AI人才大战使学术界陷入危机,博士生津贴低、抢显卡搞科研,面对硅谷百万年薪和大厂千亿算力投入诱惑,加速流向产业。教授担心学生跳槽,高校补救难,产业还推出“折中方案”,学术界考验才刚开始。

新智元
算法论文8

无需训练,即插即用,2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention

高质量视频生成任务中,扩散模型成主流,但DiT模型注意力机制计算量大,成推理瓶颈。现有加速法效果不佳,为此美国东北大学等团队提出DraftAttention,可2倍加速推理且不损画质。

机器之心
开源动态8

Mamba 架构实现推理性能超 Gemma3-27B!推理模型开始迈入「无注意力」时代

PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限,PromptCoT - Mamba实现无注意力推理,在多评测集超Transformer等模型,为无注意力推理生态奠基。

AI科技评论
产品应用8

华为盘古首次露出,昇腾原生72B MoE架构,SuperCLUE千亿内模型并列国内第一

当前传统 MoE 有专家激活不均衡问题,华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练,推理性能强,在 SuperCLUE 榜单千亿内模型并列国内第一,赋能业务落地。

机器之心
开源动态8

B, 我真的起飞啦,6.4k Star Bright Data CLI~~~~

约6.4k Star的Bright Data CLI想解决AI Agent访问网页难题,把网页变成易被模型读懂的材料。它将网页访问能力拆成终端可组合动作,还关注工程化细节,让Agent上网有章可循。

小华同学ai
新闻资讯7

倒卖英伟达GPU算力比火箭卫星来钱快!马斯克交出SpaceX首份财报

SpaceX交出首份上市后财报,AI业务收入25.61亿美元同比猛增247%,成第二大收入源。不过AI业务支出158.28亿美元是烧钱大头,业务仍亏损,未来盈利面临客户消化力等问题。

量子位