「推理算力」共找到 2698 篇相关文章
妈妈再也不用担心延迟了！斯坦福手搓Llama超级内核，推理仅需0.00068秒
斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」，将Llama - 1B前向传播融入单一GPU内核，H100上提速1.5倍，B200上每次推理仅0.00068秒，比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。
测试时Scaling或是最大错觉，Google：R1/O1强推理另有原因
Google 112 页论文实证，OpenAI 的 o 系列等模型推理能力提升并非仅因计算时间延长，而是源于对复杂互动的隐式模拟。通过三重验证表明推理能力跃迁或因‘吵得更凶’，而非‘算得更久’。
无需多视角，单图重建可交互3D模型！南洋理工开源结构推理框架
南洋理工大学团队提出MonoArt，将单目可动物体重建建模为渐进式结构推理过程，通过四个关键模块逐步推理，无需外部先验，在PartNet - Mobility基准测试中表现领先，兼顾推理效率，还可用于下游任务。
三位哈佛辍学生，如何将专用芯片变成估值百亿美元的 AI 算力公司
文章聚焦 Etched 公司，分析推理成 AI 算力主战场背景，介绍三位哈佛辍学生创始人故事，阐述其从芯片到推理集群的产品打造，还提及团队、文化、资本情况，最后分析竞争格局与前景。
从打分器到思考者：RM-R1用推理重塑模型价值判断
伊利诺伊大学香槟分校团队提出 RM - R1 框架，将奖励建模定义为推理任务。它引入推理奖励模型和链式评估准则机制，经两阶段训练，在多基准测试中表现超大规模模型，验证了推理能力对奖励模型的重要性。
太空算力竞赛白热化：谷歌刚刚发布计划，中国太空计算卫星星座已在轨运行半年
当地球AI算力竞赛内卷，太空算力赛道开启。中国国星宇航“星算”计划首批卫星半年前已组网运行，规模和算力世界第一。谷歌等巨头也有布局，但谷歌计划2027年初才发原型卫星，中国企业已占先发优势。
浙大推出首个「多图应用题」基准GSM8K-V，全面评估 VLM数学推理能力
浙江大学团队推出视觉数学推理基准GSM8K-V，将GSM8K映射为视觉对应版本。它数据可靠、覆盖全面，经三阶段构建。实验显示，现有视觉语言模型在视觉推理上短板明显，为模型发展指明方向。
Anthropic刚刚牵手SpaceX，Claude直接用上22万张H100+轨道AI算力，马斯克也要上天了
Anthropic官宣与SpaceX签算力大单，拿下Colossus 1数据中心全部算力供Claude用，还将共同开发太空算力。这是在GPT - 5.5压力下的反击，且Anthropic此前已签多笔算力大单。
大模型推理的“左右脑”革命！华为盘古Embedded凭昇腾之力，让快慢思考合二为一
传统大模型推理面临长链条深度思考与低时延反馈的矛盾，华为盘古团队提出盘古Embedded模型。基于昇腾NPU，其采用双系统认知架构，集成“快思考”与“慢思考”双推理模式，实现推理效率与精度协同提升。
DeepSeek-R1推理智能从哪儿来？谷歌新研究：模型内心多个角色吵翻了
过去两年大模型推理能力跃迁，谷歌等机构研究指出，推理能力提升源于模型推理时隐式模拟类多智能体交互结构“思维社会”，还提出利用“群体智慧”新方向，并介绍了研究方法、实验结果等。