「多模态专家混合」共找到 1549 篇相关文章
打破视觉Token的算力诅咒，RedundancyLens如何为多模态大模型推理减负
多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。
AI 工程化进行时：当上百个专家探讨“落地”这件事
10月23 - 25日，QCon全球软件开发大会·上海站（2025）举办，超1300人参与。极客邦科技创始人霍太稳称AI进入‘深水区’，工程化落地是关键。多位专家演讲，探讨AI基础设施、智能体等话题，27个分论坛覆盖AI工程化全链路。
多模态RAG哪家强？9 个 Embedding、4 类 MLLMs、4 大框架实景比拼
现有文档 RAG 评测存在不足，华南理工和华科推出 DOUBLE - BENCH 进行多模态 RAG 实战评测，结果显示检索是瓶颈，模型爱胡说。快手开源 Keye - VL - 1.5 - 8B，PaperAgent 有实操指南。
多模态卷王阶跃星辰Step 3登场，推理效率可达DeepSeek-R1 300%
新一代多模态推理基模Step 3登场，它采用原创MFA架构，具“多开好省”亮点，推理效率高、性价比优。7月31日将开源，能适配各芯片，还发起“模芯生态创新联盟”推动应用落地。
这个框架让大模型省下50%内存，合并专家不如直接删掉？
Cerebras Research提出REAP框架，通过专家剪枝和合并技术压缩SMoE模型，能让模型‘瘦身’并保持性能，可省50%内存，但社区测试有不同结果，且存在调度开销等问题。
AGI是否需要世界模型？顶级AI专家圆桌论道，清华求真书院主办
2025年7月20日，2025基础科学与人工智能论坛举行，孙茂松、刘铁岩等顶尖AI专家围绕AI根本问题展开讨论，涉及因果性、世界模型、原创能力、算力等方面，为AI技术发展勾勒图景与挑战。
关于多模态大模型Token压缩技术进展，看这一篇就够了
多模态大模型跨模态融合带来高计算成本，催生MLLM Token Compression研究。北大等机构人员基于压缩位置对方法系统归类，讨论特定场景压缩机制选择，还探讨了挑战与前景方向。
首个GUI多模态大模型智能体可信评测框架+基准：MLA-Trust
MLA-Trust 是首个针对 GUI 环境下多模态大模型智能体的可信度评测框架，构建了涵盖四核心维度的评估体系，对 13 个模型深度评估，揭示可信度风险，还提供评估工具箱，推动其可靠部署。
多模态长文本理解测评首发：46款模型无一攻克128K难关
香港科大等研究者联合提出MMLongBench，用于评估多模态模型长文本理解能力。它覆盖5大类型任务的16个数据集，对46个模型测试显示，闭源和开源模型在长上下文任务均面临挑战，OCR和跨模态检索能力是瓶颈。
打破长视频理解瓶颈：HoPE混合位置编码提升VLM长度泛化能力
如今视觉语言模型在长上下文任务表现不佳，CMU和小红书团队深入研究，首次提出多模态RoPE扩展策略理论评估框架，指出现有泛化能力不足原因，提出HoPE大幅提升VLM长度泛化能力。