「GPU推理」共找到 2428 篇相关文章
带图推理碾压同类开源模型！港中文微软等开源OpenThinkIMG框架，教AI学会使用视觉工具
港中文、微软等联合推出OpenThinkIMG开源框架，解决AI使用视觉工具面临的集成难、缺数据、适应差等问题，还公开核心技术V - ToolRL。该框架在图表推理任务上表现超GPT - 4.1，为下一代AI智能体提供基础。
GPT-5内测抢先公布：日常推理首次击败人类，编程数学科学问题能力都很强
疑似GPT - 5发布预告刚出，内测体验抢先释出。网友实测其推理能力首超人类，编程、数学等能力也出色，虽提升或没GPT - 3到GPT - 4明显，但市场竞争激烈，8月8日凌晨OpenAI发布或为GPT - 5。
国产GPU赛道又跑出一个 2700 亿独角兽！“中国AMD”沐曦股份完成IPO，开盘大涨超 500%
继摩尔线程后，沐曦集成电路登陆科创板，截至发稿估值破 2700 亿。其核心团队多来自 AMD，产品覆盖多领域。虽三年累计净亏超 30 亿，但营收增长强劲。沐曦上市标志国产 GPU 进入“市场与资本检验期”。
小米模型实现声音理解新SOTA！数据吞吐效率暴增20倍，推理速度快4倍 | 全量开源
小米全量开源MiDashengLM - 7B模型，它基于Xiaomi Dasheng和Qwen2.5 - Omni - 7B Thinker，实现声音理解新SOTA。性能领先，推理效率高，革新训练范式，全栈开源，将赋能多场景。
英伟达的局：狂撒15亿美元，从Lambda那租到了搭载自家AI芯片的GPU服务器
据The Information消息，英伟达与小型云服务提供商Lambda达成15亿美元合作，租赁其搭载自研AI芯片的GPU服务器。这并非首次，此前已对CoreWeave如此操作。目的是维护其在云计算市场的主导地位。
图灵奖大佬向97年小孩哥汇报？小扎1亿年薪买新贵，老将痛诉熬夜捡GPU！
新智元报道，小扎砸143亿拿下Scale AI 49%股权引入Alexandr Wang任Meta首席AI官，甚至可能让LeCun向其汇报。而Meta老员工因GPU受限研究受阻，科技圈有人上亿年薪，有人被裁，AI圈呈职业体育趋势。
32k微调处理百万Token：21倍的推理加速，10倍的峰值显存节省，实现恒定内存消耗
现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构，有双轨并行记忆系统，能恒定内存、线性时间处理文本，在基准测试超主流方法，实现21倍推理加速和10倍显存节省。
BIGAI & 中科大团队提出 MILR: 测试时隐空间推理，让图像生成学会「边想边改」丨ICLR 2026
BIGAI与中科大等团队提出MILR，通过测试时隐空间推理，在不更新模型参数下优化图文表示，提升复杂图像生成能力。该方法在多基准测试达SOTA，还探讨了测试时扩展与奖励模型，未来有诸多拓展方向。
突破多模态奖励瓶颈！中科院清华快手联合提出R1-Reward，用强化学习赋予模型长期推理能力
多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。
小米的首代机器人VLA大模型来了！丝滑赛德芙，推理延迟仅80ms丨全面开源
具身机器人成科技新热点，大家期待其释放生产力。小米首代具身VLA大模型Xiaomi - Robotics - 0抓间歇停顿问题，4.7B参数规模下推理延迟仅80ms，还做三项技术创新，且全面开源。