「多轮路由」共找到 131 篇相关文章
Meta 演示现场翻车的原因……让人好笑又心疼
Meta Connect大会上Meta Reality Labs演示翻车，原因是语音命令激活多人Meta AI，对开发服务器DDOS攻击，且MPK所有人被路由到该服务器，此外眼镜显示屏还有意外bug，这次翻车为行业提供了经验。
GitHub 8k star！AI Gateway 如何帮你3行代码接入1600+ LLM，实现成本、可靠性与安全三赢？
Portkey AI Gateway是面向生产环境的开源AI Gateway，支持超1600款模型，通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点，有统一API接口等核心功能。
Anthropic开源Claude小企业插件：不用写prompt，15套现成流程顶半个运营团队
Anthropic开源面向小企业的Claude插件，有15个基础技能、15套业务工作流及懂大白话的路由模块。支持Claude Cowork和Claude Code，操作待确认。日常使用几乎无学习成本，安装配置较简单，亮点是降低交互门槛。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
一篇19种自进化Agent Skill框架最新综述
这篇来自Rutgers大学和UNC Charlotte的survey，首次系统梳理Agent技能的进化与评估全貌，覆盖19种技能进化方法和10个评估基准。指出当前评估体系有诸多不足，如无法追踪技能多轮反馈后是否变好等。
模型即智能体，Kimi K2 Thinking多项评估超越顶尖闭源模型，300轮工具调用不疲倦
月之暗面发布Kimi K2 Thinking，它是Kimi迄今最强开源思考模型，基于模型即智能体理念训练，可自主连续工具调用与多轮思考，多项评估超顶尖闭源模型，还实现原生INT4量化，提升生成速度。
“甲方快乐模型”诞生，拿下平面设计新SOTA！多条件一键生成，还能独立调整元素 | 复旦＆字节
复旦大学和字节跳动团队联合提出CreatiDesign新模型，可实现高精度、多模态、可编辑的AI图形设计生成。它解决了以往方法在处理图形设计时的难题，在多维度评估基准上表现出色，还支持多轮编辑。
OpenAI携手五巨头开源革命性超算协议：一举解决超大集群LLM训练不稳定和网络性能难题
OpenAI联合英伟达等五巨头推出超算开放网络协议MRC并正式向行业开放。MRC目标是性能可预期，有多平面网络、自适应包喷射、SRv6源路由三大核心机制，已在OpenAI多台超级计算机上部署。
大模型如何泛化出多智能体推理能力？清华提出策略游戏自博弈方案MARSHAL
近日，清华大学等机构研究团队提出 MARSHAL 框架，利用强化学习让大模型在策略游戏自博弈。实验表明，多轮、多智能体训练提升了模型博弈决策水平，将推理能力泛化到通用多智能体系统，在一般推理任务表现显著提升。