搜索：混合推理架构

「混合推理架构」共找到 3637 篇相关文章

均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事

当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。

小红书推出多模态模型DeepEyesV2，它延续视觉推理优势，实现代码执行、网页搜索和图像操作的全工具协同。通过多工具协同推理解决复杂问题，采用两阶段训练策略，准确率远超开源模型。

5月5日旧金山的辩论赛上，Transformer联合发明人Łukasz Kaiser为其作品辩护，三位挑战者指出Transformer五大死穴。Kaiser称除非新架构证明有更好的scaling曲线，否则Transformer仍是主流，还给出具体辩护。

大型语言模型在不同任务中对推理策略需求差异大，策略选择不当会影响效率与可靠性。本文提出双重知识边界框架，梳理LLMs推理模式，将策略选择形式化，还分析了决策因素及策略选择机制。

就在Sam Altman官宣两个开源推理模型前半小时，Anthropic抢先发布新模型Claude Opus 4.1。该模型能力提升，适用多平台，定价公布，企业用户反馈良好，还提供混合推理模式，不过订阅费遭吐槽。

英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。

文章围绕AI在构建最小可行产品（MVP）中的作用展开。它能在理解QARs、推动架构决策等多方面提供帮助，如提出被忽略的需求、缩小技术搜索范围等，但不能完全替代人类做决策。

发布即拿下各项SOTA的Claude Opus 4.1翻车，用户反馈其变得迟钝，官方承认处理某些请求时质量退化，如白天推理性能下降，使用限制不明确，还会暴露API密钥，官方已回滚版本。

这篇来自Isotopes AI的论文指出，在生成式AI落地中，迷信‘超级Prompt’不可取。对于高风险场景，单体LLM有局限，论文构建‘AI Office’架构，引入‘对手团队’概念，实验使准确率从60%提升到92.1%，但也有成本和局限。

DeepSeek Harness 评论两极分化，有人赞其为‘Agent 界的 Android’，也有人批其‘自嗨’。若将其视为 Agent Runtime 架构实验，它值得拆解。它以‘一切皆插件’理念设计，有诸多独特架构特点。