搜索：推理架构 - AI Reading Hub

「推理架构」共找到 3525 篇相关文章

腾讯提出“我思故我玩”Agent：LLM构建推理与规划世界模型

腾讯与武大联合发表论文提出 CEL 新型 Agent 架构，通过 LLM 驱动两阶段循环实现“思考式学习”。它能填补传统方法短板，在小游戏实验中表现出色，有可解释性等优势，但也有实验环境局限等问题。

商汤开源多模态自主推理模型SenseNova - MARS（8B/32B双版本），它通过强化学习整合工具，在多模态搜索与推理测试中超越Gemini - 3 - Pro与GPT - 5.2，还采用创新算法稳定训练，构建新基准评测。

文章从AI系统分类及架构出发，分析不同类型AI系统的威胁特征，并介绍现有的威胁分析框架。目前AI应用架构经历从GenAI到AI Agents，再到Agentic AI的演进，各方向独立发展，且威胁各有特点又有重合。

多方消息显示GPT - 5.4已开启测试，多次意外曝光。它或有极限推理模式、翻倍上下文、长任务表现佳，甚至可能拥有永久记忆。OpenAI因对手紧逼，模型更新接近月更。

随着 AI Agent 应用发展，记忆系统成为构建实用 AI Agent 系统的关键技术。文章介绍了记忆基础概念、Agent 框架集成记忆系统的架构，阐述了短期记忆的上下文工程策略和长期记忆技术架构及集成，还分析了行业趋势与产品对比。

近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。

京东发布JoyAI - LLM Flash模型，激活参数小、推理快。它采用混合专家架构等技术，在基础架构、数据加工、强化学习等方面表现出色，还通过多Token预测等技术加速推理，为商业场景落地扫清障碍。

在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。

普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。

美团宣布开源高效推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking，是国内首个结合多种推理能力的大语言模型。它采用新方法提升性能，已在多平台开源，API 平台免费开放，还兼容主流 API 格式。