搜索：混合推理架构

「混合推理架构」共找到 3631 篇相关文章

拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升

2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。

WAIC世界人工智能大会上，国产黑马RockAI的大模型Yan 2.0 Preview亮相，可多终端无损部署。它基于非Transformer架构，训练效率高，有原生记忆，实现端侧AI，展现出自主学习和多模态能力，引发关注。

上海AI Lab的OpenDataLab团队通过大规模实验剖析RLVR在多领域推理机制。构建多领域评估框架与定制奖励策略，基于Qwen2.5 - 7B系列模型联合训练，有多项关键发现，为构建AI推理模型提供参考。

文章围绕Transformer架构展开，先介绍其诞生背景，对比CNN、RNN等模型，阐述其在多领域的核心地位。接着剖析工作流程、实现原理，包括QKV机制、多头注意力等。最后列举T5、GPT等常见架构模型，并提及通义千问3与MCP协议。

复旦大学等机构团队论文提出SIM - CoT技术，解决隐式思维链推理准确率低、不稳定问题。该技术引入步骤级监督，提升性能、效率和可解释性，在多模型和任务测试中表现出色，让大模型高效沉默推理。

文章讲述百度沧海·存储Mantle系统架构演进故事。面对云存储挑战及业界方案局限，团队经多阶段探索，构建Mantle及MantleX架构，解决性能难题，并规划后续升级方向，为业界提供新思路。

ICLR 2026投稿论文提出单token验证（OTV），是测试时扩展新机制，让模型能边推理边判断正误。它基于并行思考思路，借助轻量内部验证器分析推理过程，实验显示其性能优于主流方法。

近日，概念CoRT火了，它在CoT基础上加了“递归思考”，能让AI递归思考响应、生成替代方案并选最优，结合“结构化自我批判”提升推理力。不过网友质疑它是“新瓶装旧酒”。

科学家面临让AI解决复杂科学难题的问题，传统固定架构AI处理特定复杂问题不顺手。近日学术团队提出Eureka架构，能让AI动态“生长”专用“大脑”，在测试中表现出色，还在数学和物理领域有重大成果。

本次分享由复旦博士生王思尹围绕‘视觉智能驱动的多模态对齐与推理’展开，介绍多模态大模型探索研究，涉及跨模态组合语义理解、视觉参与推理及基于视觉建模世界完成行动等内容。