搜索：混合推理架构

「混合推理架构」共找到 3672 篇相关文章

BettaFish微舆：一个多智能体舆情分析系统

BettaFish微舆可依自然语言需求抓取分析30多个主流社交媒体生成舆情报告。它将任务拆解给不同智能体，系统架构清晰，最终整合生成带时间线分析的HTML报告。项目在GitHub开源且登顶趋势榜第一。

大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。

哈佛团队借助AI系统K-Dense揭示衰老分阶段运行的秘密。K-Dense采用层级多代理架构，能完整跑通研究流程，在BixBench测试中超越GPT - 5。它还让哈佛团队几周完成原本数年的研究，成果待同行评审。

阿里发布全开源项目通义DeepResearch，在研究任务评测中表现出色，底层是30B的MoE专用推理模型，资源需求低。文章演示了基于该项目构建本地化端到端DeepResearch助理的方法，包括模型部署、Agent实现等。

阿里在2025云栖大会全栈升级，发布七款通义新模型，从基础大模型到各专项领域全覆盖。旗舰模型Qwen3 - Max性能超GPT - 5等，新架构Qwen3 - Next实现效率突破，多模型开源且表现出色。

AI浪潮下，行业对存储设备重视上升。其根因是AI业务刺激，数据量增长且推理业务有新需求。信通院报告显示我国存力结构优化，国内厂商迎来机会，平头哥镇岳510主控芯片表现出色，生态建设也在推进。

微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。

清华大学吕帅团队提出FloorPlan-LLaMa模型，采用自回归生成架构与RLHF机制，解决传统平面图自动生成模型‘指标优秀但实际不可用’痛点，提升生成式平面图设计质量与实用价值。该论文被ACL录用获领域主席奖。

西交大陈泽伟、陈刚等人提出ViT - STFlowNet框架，用于可变形域非周期非定常流动预测。该框架融合自适应网格变换与ViT架构，克服传统方法局限，测试显示预测精度高、泛化能力好，为飞行器流场感知控制提供工具。

Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。