搜索：混合推理架构

「混合推理架构」共找到 3634 篇相关文章

首个真正“能用”的LLM游戏Agent诞生！可实时高频决策，思维链还全程可见

超参数科技推出全新游戏智能体COTA，它由大模型原生驱动，操作似职业选手，决策如教练，推理链路清晰。在自研FPS游戏Demo中表现出色，还打破‘不可能三角’，有望重构游戏人机关系。

7月26日，中国移动在2025世界人工智能大会发布「九天」基础大模型3.0，端到端技术全面升级，复杂推理能力提升35%，智能体调用效率提升21%，还推出代码、数学等专项大模型，多模态能力也焕新。

视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。

Moonshot AI发布Kimi K2 Thinking模型，它能边思考边行动，是目前最强开源思考模型，多项指标超GPT - 5等闭源巨头。其具独特架构，有性能优势，还给出部署方式，实测表现佳。

清华大学与微软亚洲研究院团队提出推理多智能体系统 STAR - PólyaMath，构建探索 - 推理 - 验证框架，解决大模型长程数学推理瓶颈，在八大数学竞赛基准获最优成绩，还可泛化到其他推理场景。

随着AI发展，推荐系统面临诸多问题，快手技术团队提出OneRec，以端到端生成式架构重构推荐系统全链路，在效果与成本上实现突破，已在快手双端服务用户，也有需完善之处。

文章对比CAG和RAG，指出CAG虽解决RAG部分痛点，但有根本限制，对海量变化知识库，RAG不可替代。Aurimas将二者结合做「动态混合层」效果好，还给出实施架构和关键点。

5月20日，中科算网算泥社区发布《2026 OpenClaw类自主智能体发展白皮书》，阐述从“对话式AI”到“代理式AI”的转变。介绍OpenClaw类自主智能体定义、技术剖面、关键能力及系统架构，为从业者提供参考。

今日凌晨，Black Forest开源文生图模型FLUX.1-Kontext开发者版本，功能类似PS，用自然语言就能一键P图。测试显示它超GPT-image-1，成最强开源文生图模型之一，还在架构、训练、工程层面做了优化。

著名AI技术作家Sebastian Raschka发布博客《现代LLM中注意力变体的可视化指南》，回顾近年开发并用于开放权重架构的注意力变体，包括多头、分组查询、多头潜在等注意力机制，还分析各机制特点、应用场景及优劣势。