搜索：智能体推理框架

「智能体推理框架」共找到 6083 篇相关文章

发生在CES的六场对话：来自深圳的 AI 硬件“外卷”

2026年CES上，中国硬件力量涌向全球。虽有地缘政治摩擦、签证障碍，但全球市场仍看好中国AI硬件。大厂将边缘硬件定义为AI生态入口，初创公司从数据、场景、交互寻生存之道，机器人应用场景也更明确。

网易有道词典笔产品负责人孟旭在AICon大会分享，以有道AI答疑笔为例，阐述智能学习硬件在大模型催化下从“学习工具”进化为“智能伙伴”，其发展呈“需求牵引 - 技术支撑 - 体验升级”螺旋路径。

现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。

华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。

本文围绕具身机器人展开，指出当前大多具身机器人干活存在局限。Motubrain 双榜登顶，确立通用机器人大脑干活能力参照系，它具备一脑多能、一脑贯通等能力，生数科技已开启产品落地布局。

DeepSeek - R1爆火后，类R1结果奖励训练范式引发推理热潮，但仅以结果对错奖励模型有弊端。港中文联合团队发布多模态推理模型SophiaVL - R1，引入‘思考奖励’机制，还用Trust - GRPO算法解决奖励欺骗问题。

在AI驱动智能商业时代，传统搜索系统难满足需求，AI检索系统又面临数据搬运和工具链割裂难题。本文提出用原生SQL实现多模态智能检索，基于PolarDB融合AI引擎，通过SQL调用服务，无需迁移数据与搭建独立服务。

阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。

Andrej Karpathy在YC AI创业营演讲引发关注，提出软件3.0时代来临，大量软件将被重写。还探讨了LLMs特性、半自主工具优势等。此外，文中整理了Sam Altman、李飞飞等嘉宾的精彩观点。

当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。