搜索：高效推理框架

「高效推理框架」共找到 3700 篇相关文章

突破视觉-语言-动作模型的瓶颈：QDepth-VLA让机器人拥有更精准的3D空间感知

视觉 - 语言 - 动作模型（VLA）在机器人操控领域潜力大，但应对长时序或精细操作任务时性能下降，根源是缺乏三维空间感知与推理能力。中国科学院自动化研究所与灵宝 CASBOT 提出 QDepth - VLA 模型，提升了机器人空间推理与操控精度。

本文围绕大语言模型智能应用中的工具与数据接入问题，介绍了基于 Agent + Function Call 的动态调度机制与基于 MCP 的标准化接入框架，分析了不同场景下的适用性，还探讨了二者未来的协同融合方向。

ARC-AGI-3测试中，顶级大模型Opus 4.6仅得0.2%，人类获满分。而Symbolica公司用Agentica框架首日就取得36.08%的成绩。该框架有独特技术路径和策略，但成绩未经验证，ARC-AGI-3被视为通向AGI的‘北极星’。

Z.ai将旗舰开源权重大语言模型升级为GLM - 5.1，可在单个任务自主运行八小时。它专为编程和智能体任务设计，有推理等特性，在多榜单表现佳，但推理和数学能力落后闭源模型，价格有提升。

近日，刚 IPO 的沐曦股份发布 MXMACA 软件栈 3.3.0.X 版本。该软件栈可实现多语言支持、算子自动优化与跨框架平滑适配，能让现有 CUDA 项目近乎‘开箱即用’迁移，还兼容主流 AI 框架，助力国产 GPU 解决落地难题。

大型语言模型解决复杂问题有推理过程和答案，传统评估只看最终答案。论文提出最终答案可能不佳，中间步骤更值得研究。还介绍通过切割推理过程发现中间步骤藏玄机，提出‘分步检查法’提升模型表现，实验表明准确率最高提升13%等。

斯坦福等机构提出DexUMI框架，利用人手将操作技能迁移至灵巧手。该框架通过软硬件创新缩小人手与灵巧手具身差异，在两款灵巧手硬件平台验证，平均任务成功率达86%，数据采集效率提升3.2倍，被CoRL 2025提名最佳论文。

腾讯发布 SpecExit 算法，将思考早停与投机采样融合，利用轻量级草稿模型预测“退出信号”，在不引入额外探测开销的前提下，实现动态、可靠的思考早停，在 vLLM 上推理端到端加速 2.5 倍，准确性和推理效率得到双重保障。

文章介绍Cordis框架，它原服务第三方QQ机器人，现是DeepSeek Harness心脏。阐述其设计初衷、核心机制，如插件、上下文等概念，还提及在DSH中的应用，展示了插件槽位和生态，最后介绍相关论文和该框架的生态情况。

Andrej Karpathy 提出判断工作是否会被 AI 替代的新标准，即不看复杂度看可验证性。他在 Software 2.0 框架下解释此现象，还指出任务被 AI 自动化需满足可重置、高效、可奖励三个条件，同时提及该框架有局限性。