「客户端路由」共找到 135 篇相关文章
Meta&CMU:Token级LLM协同路由新范式
Meta AI、CMU等联合推出FusionRoute,是让多个大模型在token级协作的新范式。它能在每个token位置精准选专家,自带“急救包”。经实验验证其高效,也指出了待研究的方向。
国产开源模型越多,模型路由的机会越大
中国大模型市场模型增多,能力相近、价格降低且部分开源。开发者选择多但企业选模型难,价值向调度层转移。开源改变产业结构,Routing业务有价值且至少含四层,中国Provider Routing易落地。
开源 DeepSeek Harness 开箱即用客户端,还有几个易用插件
DeepSeek 发布了 DeepSeek Harness,坚持‘一切皆插件’理念。不过它使用门槛偏高,作者做了 Pilot Harness,优化 UI 与交互,添加侧边栏和文件树、服务商配置插件,还支持多系统。
让大模型指哪打哪的Multi-Agent路由新范式
随着MCP生态兴起,一个Assistant背后可能挂数百工具/子Agent,传统检索方式有成本高、埋没工具等问题。作者提出Tool-to-Agent Retrieval新范式,实验显示指标全面提升,证明工具细节能补足语义。
DeepMind大佬最新暴论:单体大模型穷途末路,未来买的不是模型,是"智能路由"
DeepMind研究员Andrew Trask认为,因Scaling Law对资源需求攀升,AI将成协议而非程序。组合不同厂商模型有优势,当主流榜单同等评分时变革加速,之后人们将买“智能本身”。
大模型推理也能“智能调度”:让奖励模型按需分配算力的动态路由机制 | ACL 2026
生成式奖励模型(GRM)推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架,将模型不确定性定义为调度信号,按需推理。文章从多维度解读该框架,并展示实验评估结果。
2.2K Star!一个开源 AI 桌面客户端,搞定所有 AI 工具的安装、配置与管理!
超60%用户首次尝试AI Agent工具时卡在安装配置阶段。EchoBird是开源AI桌面管理工具,能集中解决AI Agent使用痛点,如一键安装、统一配置等,采用Tauri + Rust架构,有四大应用场景。
在Claude桌面版里用任意模型
现在Claude桌面版可使用任意模型,这是4月官方更新添加开发者模式带来的功能。文中介绍了操作方法,还称Claude桌面版是世界最好的AI客户端,覆盖多种使用场景,推荐大家使用。
最新原生端到端OCR开源项目!
腾讯开源最新原生端到端OCR:HunyuanOCR,仅1B参数,OmniDocBench得分94.1超竞品,功能覆盖全场景。还介绍了DeepSeek - OCR的桌面客户端,支持拖拽识别、导出文件等。
OpenAI公开大规模稳定训练的秘密,英伟达AMD英特尔都受益
OpenAI通过OCP开放超大规模AI训练用的网络协议MRC,它能确保大规模训练环境下网络通信稳定。该协议由OpenAI联合英伟达等厂商花两年完成,从拓扑、传输、路由维度保障网络可靠性。