「动态路由」共找到 431 篇相关文章
无需再训练即可增强性能!港大团队提出GPC框架,实现机器人「策略组合」
在机器人学习领域,提升策略性能常需巨额成本。香港大学团队提出GPC框架,通过“策略组合”创造超越单一父策略的“组合策略”,免训练且跨架构、模态融合,经仿真和真机实验验证性能提升。
Jina Reranker v3: 全新“列式”重排器,0.6B参数刷新文档检索SOTA
Jina AI推出第三代重排器Jina Reranker v3,在多语言检索基准上刷新SOTA。它参数仅6亿,有“last but not late”交互机制,能一次性处理查询和文档。还提供动态量化格式,方便不同硬件部署。
国产MiroMind智能体框架,登顶全球预测未来大模型榜单
国产MiroMind公司在全球首个动态实时预测基准FutureX上夺冠,老板是陈天桥。其开源的MiroFlow v0.2智能体框架优势明显,能升级大模型能力,且成本低、可复现。MiroMind在预测赛道领先。
Meta 演示现场翻车的原因……让人好笑又心疼
Meta Connect大会上Meta Reality Labs演示翻车,原因是语音命令激活多人Meta AI,对开发服务器DDOS攻击,且MPK所有人被路由到该服务器,此外眼镜显示屏还有意外bug,这次翻车为行业提供了经验。
Default Alive:警惕 AI 公司“亏损死亡螺旋”| AGIX PM Notes
文章围绕AI公司发展展开,指出要警惕“亏损死亡螺旋”,真正存活的公司需平衡创新与盈利。还总结本周市场,如对冲基金加仓全球股票,同时介绍多起AI动态,像OpenAI发布GPT - 5等。
南大周志华团队最新力作:一个算法通吃所有,在线学习迎来新范式?
世界是动态变化的,AI 模型需具备在线学习能力,领域提出适应性遗憾值指标。现有算法通用性不足,南京大学周志华团队研究具有双重自适应性的通用算法,提出元 - 专家框架等,还研究了在线复合优化问题。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度,但直接丢层会降低性能。为此提出滑动层合并法,根据相似度阈值融合连续层,简化结构且保持性能。实验显示该方法优于现有技术,还揭示了与宽度修剪结合的潜力。
GitHub 8k star!AI Gateway 如何帮你3行代码接入1600+ LLM,实现成本、可靠性与安全三赢?
Portkey AI Gateway是面向生产环境的开源AI Gateway,支持超1600款模型,通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点,有统一API接口等核心功能。
万字长文!大模型(LLM)推理优化技术总结(非常详细)
文章聚焦大模型推理优化技术,介绍推理过程分预填充与解码阶段,还阐述模型并行、注意力机制优化、模型优化及服务技术等,如多查询注意力减少内存,FlashAttention 优化计算顺序。
突破传统检索瓶颈!阿里通义实验室发布 WebDancer,开启多步推理智能体新范式!
在信息爆炸时代,传统检索技术缺乏动态决策能力,难以满足多步推理需求。阿里通义实验室发布的 WebDancer 基于 ReAct 框架,通过四阶段构建,在测试中表现优异,未来规划拓展工具生态、突破任务边界等。