「混合推理架构」共找到 3631 篇相关文章
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
扩散架构 or「NoThinking」，AI 对话的「1Hz 壁垒」如何突破？
当红通用人形机器人公司 1X 的 AI 副总裁 Eric Jang 提出「智能频谱」概念，阐述当前 AI 面临的「1Hz 壁垒」及实现「Ultra Instinct」能力的先决条件。不同推理方案有望解决部分问题，但通用智能体仍有瓶颈。
AI 引领的企业级智能分析架构演进与行业实践
在 QCon 全球软件开发大会（北京站）上，数势科技 AI 负责人李飞分享了企业级智能分析架构演进与实践。探讨了智能分析落地问题，介绍 Agent 结合数据分析优势、技术路线及落地要点，还对 Agent 发展给出思考与展望。
北大开源统一世界模型框架：多类合成推理任务一套搞定
世界模型研究中，不同任务存在接口不统一等问题。北大DCAI课题组联合多方推出OpenWorldLib推理框架，整合多模态能力，构建标准化接口体系，在多任务上评估效果良好，降低研发门槛。
跟上 AI 的节奏：为演进式架构构建上下文存储库
本文探讨AI辅助开发带来的上下文认知断层问题。在开发中，AI前期提效但后期难题凸显，企业面临团队执行和管理层决策层面隐患。可通过融合三大工程规范构建上下文存储库解决，确保开发逻辑可控。
快手提出强化学习创新框架RLEP，突破大模型推理瓶颈
OpenAI等模型用强化学习提升推理能力，但面临训练不稳定等挑战。快手Klear团队提出RLEP框架，引入经验回放技术，分经验收集和回放训练两阶段，还采用优化策略，提升大模型训练效率和性能。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
视觉生成的另一条路：Infinity 自回归架构的原理与实践
本文整理自字节跳动韩剑在AICon 2025北京站的分享，以Infinity为例介绍自回归视觉生成原理，对比其与扩散模型，展示Infinity升级方案成果，它在高分辨率文本到图像任务能与扩散模型竞争。