搜索：推理加速技术

「推理加速技术」共找到 4901 篇相关文章

o3绞尽脑汁仅答对40%的题目，开源模型基本乱猜？MMSI-Bench：多图空间智能试金石

文章介绍了MMSI - Bench，这是用于评估MLLM多图像空间推理能力的VQA基准。它人工构建样本、全面分类任务、采用多样真实数据。实验显示MLLM在多图像空间推理有短板，还开发自动化错误分析流程助力改进。

华为发布专为昇腾端侧硬件打造的openPangu Embedded - 1B模型，仅10亿参数却性能卓越。它运用多阶段训练和优化，在权威基准表现亮眼，V1.1平均分较上月跃升超8%，还介绍了背后技术。

中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。

AI 对程序员的影响引发热议，吴恩达在 Newsletter 中给出加速排序：前端 > 后端 > 基础设施 > 科研。他认为前端开发被加速最厉害，后端需更多人工引导，基础设施和科研领域 AI 作用有限。同时指出初级、缺乏协作和创造性的工作易被取代。

当地时间6月25日，IBM发布全球首个亚1纳米芯片技术0.7纳米节点，晶体管密度翻倍，性能和能效大幅提升。该技术源于纳米堆叠架构，若5年内量产有望革新AI芯片架构，但量产面临诸多挑战。

科大讯飞2025年第三季度财报亮眼，营收、利润、现金流全面转正，归母净利润同比大增202%。AI大模型技术突破与产业化落地成业绩修复关键，在技术、业务、生态方面成效显著，还将加大研发投入。

文章提出用于实时交互式长视频生成的帧级自回归框架 LongLive，解决了长视频生成在效率和质量方面的挑战，具备长视频生成、实时推理、高效微调等亮点，还给出安装、推理、训练等步骤。

苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。

作者用OpenClaw /Claude Code读推特遇难题，各平台上网关卡多。后发现开源2天获1.1K Star的Agent - Reach项目，将上网工具统一打包，技术选型实用，强调AI时代想法和判断力比技术重要。

Google DeepMind发布机器人推理模型Gemini Robotics - ER 1.6，搭载它的波士顿动力机器狗能精确读仪表数字。该模型是第三代，在空间推理等方面显著提升，还新增读仪表能力，且是谷歌迄今最安全的机器人模型。