「GPU性能分析」共找到 3176 篇相关文章
0.9B跑出90%真机成功率！上海交大为VLA补上空间感
上海交大MINT团队提出中间路线Evo - Depth，约0.9B参数，不额外增硬件负担，兼顾仿真与真机性能及部署效率。系统由IDEM、SEM等组成，代码等已开源。
打破视觉Token的算力诅咒，RedundancyLens如何为多模态大模型推理减负
多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。
架构解耦是统一多模态模型所必须的吗？全新AIA损失：No
香港中文大学 MMLab 和美团研究者思考架构解耦是否为统一多模态模型必须，推出 AIA 损失。研究发现架构解耦未解决任务冲突，AIA 能提升模型性能，减少数据配比问题。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
PD 分离推理的加速大招，百度智能云网络基础设施和通信组件的优化实践
为适应PD分离式推理部署架构，百度智能云从物理网络、网络流量、通信组件和算子层面优化，提升上层推理服务性能，展现了网络、组件与业务特征融合的重要性。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
SGLang 贴近硬件：用编译产物（PTX/SASS）评审 PR #26588、DeepGEMM 与架构迁移
本文从「编译产物评审」视角，分析 SGLang 的 PR、FlashInfer DeepGEMM 及 Ampere→Hopper 架构迁移案例。指出算法面和编译产物面会有分歧，编译产物 diff 能提前揭示执行路径变化，对开源项目有增益。
NeurIPS 25开新坑：145万个图文对，覆盖八种主流水下理解任务
华中科技大学团队推出首个水下多模态大模型NAUTILUS，支持8种水下场景理解任务，还开源145万图文对的NautData数据集。模型通过VFE模块解决水下图像问题，性能超越现有模型，恶劣环境表现更佳。
ChatGPT那一套要过时了？翁荔实测创业首个模型，回合制AI被“原生实时交互”秒了
Thinking Machines推出交互模型TML - Interaction - Small，可实时接收多模态输入并响应，性能超现有实时系统。该模型未开放，计划先有限预览再广泛发布，若开放将为企业带来巨大价值。