「大模型推理系统」共找到 9002 篇相关文章
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
NVIDIA 推出Rubin CPX，专为AI推理设计的GPU
NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU，性能提升显著，集成视频编解码器和长文本推理处理。新平台算力强，适用于代码生成与视频处理，多家公司将采用，2026年底上市。
打破具身世界模型可执行性鸿沟 ！港中深-跨维智能团队提出EVA框架，用强化学习让视频世界模型真正“动”起来
近期，利用视频生成模型为机器人构建“世界模型”成热门路线，但存在“可执行性鸿沟”。港中深 - 跨维智能团队提出 EVA 框架，用强化学习优化视频生成，实验显示其能提升视觉规划、仿真任务成功率及真实部署稳定性，还有数据合成潜力。
CoT 之后，CoF 如何让帧间逻辑从「隐式对齐」变成「显式思考」？
CoT 虽提升语言模型推理能力，但在 C 端场景有局限，且被质疑并非真实推理。视觉领域提出 CoF 概念，Google DeepMind 团队引入理论，让视频模型通过帧链推理提升帧间一致性，还具强大泛化能力。
启发学习：让大模型认知从外化到内生
当下大模型能力多靠人为框架，能力上限受限。文章提出“启发学习”，将其集成到推理侧成Isaac框架，通过Prompt与网络层注入复用旧经验，实验显示能大幅提升大模型任务性能。
OpenCode AI编程实践：利用推理路由低成本开发游戏
文章介绍用 OpenCode 结合 DigitalOcean 推理路由器开发点球大战游戏 PK Shootout。其按任务选模型，多数任务路由到 MiMo V2.5 和 GLM - 5.2，成本约 8.25 美元，远低于只用前沿模型。文中还分析开发各环节及适用场景。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
刚刚，霸榜神秘视频模型身份揭晓，原来它就是「David」
几天前登上Artificial Analysis榜首的神秘视频模型揭晓，是Runway最新发布的Gen - 4.5。它树立行业新标杆，在多方面表现出色，但也存在一些视频模型常见的局限性，Runway正探索解决办法。
美团开源新模型，多项能力实测第一
美团发布5600亿参数的LongCat - Flash模型，有创新动态计算机制和高效训练推理架构。它在多项测评中领先，尤其在代理工具使用测试表现出色，还以宽松许可开源，降低使用门槛。