「推理算力」共找到 2768 篇相关文章

8

超越英伟达B200!AMD最强AI芯:1.6倍大内存、大模型推理快30%,奥特曼都来站台

AMD发布最强AI芯片MI350X和MI355X,号称大模型推理比英伟达B200快30%,内存是其1.6倍。该系列本月初已批量出货,还发布ROCm 7软件栈。AMD还预告明年推MI400系列,由其与OpenAI联合研发。

量子位
新闻资讯8

华为算力“公共事业”:“超节点+全栈开源”如何撬动AI未来?

文章围绕华为算力“公共事业”展开,介绍其“超节点 + 全栈开源”模式。华为通过推出系列算力芯片、构建“超节点 + 集群”方案、全面开源开放软硬件等举措,满足全球产业算力需求,推动AI产业变革。

InfoQ
开源动态8

「百万级」视频推理数据集!30+顶尖高校联合发布

AI视频生成已能「画得像」,但不会「想得对」。VBVR推出百万级视频推理数据集,首次系统评测模型对空间、物理、逻辑和抽象的推理能力,发现顶尖模型通过率仅68%,推动视频AI从「视觉模仿」迈向「智能推理」。

新智元
算法论文8

ICLR 2026|UIUC:一行代码彻底解决LLM推理的过度思考!

2025年DeepSeek发布推理大模型,引发RLVR研究热潮,但该方法有“过度思考”问题。伊利诺伊大学香槟分校等研究者提出Self - Aligned Reward(SAR),能提升推理准确度和效率,有望推动大模型推理系统发展。

机器之心
新闻资讯7

OpenAI自曝:AI推理砸钱越多,碾压人类越狠!

OpenAI研究员探讨推理模型时代。Noam Brown强调预训练和推理范式,指出当前AI胜在通用性。推理范式成本低、效果好,如o系列模型表现出色。首席经济学家谈AI经济影响,称其重塑企业格局。

新智元
新闻资讯7

“中科院系”两家科技巨头合并:国产算力格局要变天?

美国切断部分对华半导体技术出口,国内算力产业有新动作,海光信息换股吸收合并中科曙光。当下中美算力竞争焦点转向‘生态’,英伟达等靠生态占据优势,此次合并或构建国产算力生态。

芯师爷
算法论文8

DeepSeek推理最高提速6倍!开源研究:加装「思维进度条」,计算量减少30%

特拉维夫大学团队开发新方法,给LLM推理任务装进度条,控制推理深度和速度。提出“思维进度向量”TPV预测推理位置,干预TPV可“超频”“降频”,模型已在GitHub开源。

量子位
开源动态8

华为| 祭出FlashComm1,FlashComm2、FlashComm3,解决LLM推理通算瓶颈

在大模型推理面临通算难题背景下,华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信,提升推理性能;FlashComm 2重构计算流程,提升推理速度;FlashComm 3实现多流并行,激增模型吞吐。

AINLPer
算法论文8

从「记忆解题」到「深度推理」:港科大推出首个本科数学动态评测基准 UGMathBench

港科大团队发表在 ICLR 2025 的研究 UGMathBench,是首个本科数学动态评测体系。它涵盖 16 个学科领域,通过变量扰动创建多版本试题,引入创新指标评估模型推理能力,测试结果揭示了当前模型短板。

AI科技大本营
推荐文章8

SemiAnalysis 创始人解析万亿美元 AI 竞争:算力是 AI 世界的货币,Nvidia 是“中央银行”

SemiAnalysis 创始人 Dylan Patel 在访谈中指出,AI 是算力、资金与地缘政治驱动的产业迁徙。算力成新货币,Nvidia 似央行。还谈到 AI 竞争格局、技术路线、算力人才能源问题,以及对传统软件和各玩家的影响。

海外独角兽