搜索：大模型推理系统

「大模型推理系统」共找到 9002 篇相关文章

MIT & Google | 提出异步并行生成新范式，LLM推理效率大幅提升！

MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。

南洋理工大学团队在ACL 2026发表VChain框架，引入大模型视觉推理能力提升视频逻辑连贯性。它分三步实现，实验效果超现有方法，还展示视频推理与生成的潜在趋势，为多模态模型协作提供范例。

在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。

华为诺亚方舟实验室研究入选NeurIPS 2025，其提出视觉感知投机推理（ViSpec）框架，解决草稿模型处理图像信息效率难题，在不牺牲生成质量下，对主流VLM最高达3.22倍推理加速。

Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。

在大语言模型发展中，‘记忆’是智能体具备长期智能的关键。现有外部记忆系统有局限，Mem-α将强化学习引入大模型记忆管理体系，解决记忆难题，在性能、泛化等多方面表现出色。

复旦、创智联合推出RSAgent，让多模态大模型通过多轮工具调用生成准确掩码，解决视觉分割难题。该工作入选ICML 2026，实验显示其在多个测试集上表现领先，还展示了从‘看图问答’到‘视觉行动’的路径。

多方消息显示GPT - 5.4已开启测试，多次意外曝光。它或有极限推理模式、翻倍上下文、长任务表现佳，甚至可能拥有永久记忆。OpenAI因对手紧逼，模型更新接近月更。

6月6日第七届智源大会，智源研究院推出全新「悟界」系列大模型，含原生多模态世界模型Emu3、脑科学多模态通用基础模型见微Brainμ等，反映其对大模型发展的研判，推动AI向物理世界迈进。

文章深入剖析多模态大语言模型核心技术架构与训练方法的进化，涵盖建模范式、视觉编码器、语言骨干网络、模态对齐、生成范式及训练方法等方面，介绍其演进路径与代表模型，还提及国内模型创新及开源模型OpenVLA。