「有状态推理」共找到 7668 篇相关文章
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。
我有听书障碍，但被这个 AI 电台拿捏了
作者曾有听书障碍，却被 Huxe 这款 AI 音频 App 吸引。它由 Google 团队打造，能将邮件摘要、新闻等生成“私人电台”。有个性化简报、自定义音频内容等功能，集成 ASR、NLP 和 TTS 模块。
DeepSeek开源DeepInfer：V4.1-Flash推理框架首次公开
大模型开源此前多开放权重和模型代码，此次DeepSeek将开源推进到推理服务层，公开DeepInfer推理框架及配套组件，开放大模型推理服务核心工程实现，为开发者提供学习参考。
彻底改写Transformer！「能量驱动架构」横空出世，通用推理时代要来了？
UIUC、斯坦福与哈佛联合提出全新「能量驱动Transformer（EBT）」架构，打破「前馈即推理」旧范式，以能量最小化模拟人类思维，训练更高效、推理更精准，在多方面超越传统Transformer。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
一篇综述：知识图谱的3种类型，6大推理任务
知识图谱（KGs）在认知智能系统中作用关键，知识图谱推理（KGR）能基于现有事实推断新知识。文章综述了3种知识图谱类型、6大推理任务，介绍推理方法、应用，还指出KGR面临的挑战与机遇。
世界首个！李飞飞团队推出物理推理基准，大模型统统不及格？
斯坦福联合中科大团队推出世界首个评估视觉语言模型物理推理能力的基准QuantiPhy，通过测试发现顶尖模型在数值计算上不如人类，还揭示模型推理靠记忆而非测量，为AI发展指明方向。
深度拆解，硬核解构，揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。
大模型可否胸有成竹？探索LLM推理与自信心的关系 | 直播预约
本次全英文直播将探讨大语言模型推理能力扩展瓶颈，介绍以置信度为核心的推理视角，展示“自确定性”指标及应用，还会讨论方法有效性和“基于置信度的推理”意义。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。