「GPU推理」共找到 2382 篇相关文章
ICLR 2026 | 别再让大模型“想太多”了！最新研究揭示 LLM 推理效率的关键瓶颈
大语言模型推理计算成本失控，存在过度与思考不足问题。研究揭示推理失衡是根源，提出BAM模型及Plan - and - Budget框架，实验显示其能提升准确率与效率，转向‘推理价值’范式。
多模态推理新基准！最强Gemini 2.5 Pro仅得60分，复旦港中文上海AILab等出品
现有多模态大模型benchmark对逻辑推理理解不足，复旦大学等单位提出MME - Reasoning评估其推理能力。对30 + 模型评测，最优得分仅60%左右，反映出模型多方面推理短板。
英伟达帮你省钱，让大模型推理「短而精」，速度快5倍
过去大模型推理追求长链思维，导致推理链长、Token消耗大、响应慢。英伟达研究院的DLER研究给出解决办法，通过强化学习优化方法让模型‘短而精’，推理长度减超70%且准确率不变，还适用于大模型。
两张图定位全球，o3碾压T0级高手！人类「诡计」被看穿，跨模态推理爆表
OpenAI的o3在GeoGuessr游戏中与大师级玩家Sam Patterson对决，o3通过视觉与搜索推理，忽略伪造EXIF信息，最终以23179比22054获胜，展现出跨模态推理潜力，引发对AI推理能力的思考。
国产GPU芯动科技发布最新芯片，单卡直接堆上了112GB以上的超大显存
9月22日，芯动科技在珠海正式发布“风华3号”全功能GPU，它有诸多亮点，如集成国产RISC - V CPU与兼容CUDA的GPU、原生支持DICOM显示等，还构建了国产GPU完整生态。
AI"学霸"也解不出高中题？耶鲁、复旦发布MMSciBench，揭示AI理科推理能力短板
耶鲁、复旦等推出MMSciBench评测基准，揭示主流模型复杂科学推理短板。它有高质量数据、多模态多题型测试和精细知识分类体系。测试发现模型图文融合及推理能力弱，英文推理或效果更好。
GPU到底是如何工作的？这篇AI Infra入门全部告诉你
本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU，NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构，对比二者性能，介绍编译、加载、启动过程，以及GPU硬件架构、编程与执行模型，分析SIMD和SIMT。
马斯克22万张GPU救场后，Claude勉强恢复“三个月前体验”，Gary Marcus却警告：GPU将严重过剩，很快不值钱
当地时间5月6日，Anthropic宣布用SpaceX算力，提升Claude服务能力。此前其算力紧缺致口碑下滑，此次合作让Claude恢复到3个月前体验。同时，纽约大学学者警告GPU将过剩，而Anthropic发新功能争企业客户。
o3-pro答高难题文字游戏引围观，OpenAI前员工讽刺苹果：这都不叫推理那什么叫推理
OpenAI“最新最强版”推理模型o3 - pro引发关注。首位全职提示工程师给它设难题，它推理后答对。OpenAI前员工借此讽刺苹果。各大评测榜单显示其表现与官方有差异，苹果&SpaceX前工程师分享使用心得，肯定其表现。
大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间
随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。