「动态专家调度」共找到 975 篇相关文章
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
关于 AI Agent，「实在」、「好用」可能比「颠覆」更重要
8月18日百度AI Day上，百度文库、网盘联合发布全端通用Agent「GenFlow2.0」。它无需邀请码，多专家协助，能利用文库和网盘数据，实测在多场景表现超预期，稳定高效，“好用”才是关键。
金融智能体真的是大模型落地“最后一公里”？
InfoQ《极客有约》X AICon 直播栏目邀请业内人士探讨金融 AI 大模型实践现状。指出大小模型融合是主要方案，智能体有应用但也有问题。还分享了评估 AI 项目的要点、智能体应用案例及未来布局方向。
3D-R1：让AI理解3D世界的下一步
文章介绍新研究3D - R1，它是更通用、具推理能力的三维视觉语言模型，解决了当前3D VLM空间理解不足与推理能力薄弱问题，在多任务测试领先，有广阔应用前景。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
碾压DeepSeek V3！开源AI Agent专属模型，1万亿参数、工具使用能力超强
国内大模型平台月之暗面开源了模型Kimi - K2，这是混合专家模型，总参数1万亿。它针对AI Agent优化，工具使用能力强。测试显示其性能碾压DeepSeek V3等模型，训练流程还有独特技术创新。
模拟大脑功能分化！北大与港中文发布Fast-in-Slow VLA，让“快行动”和“慢推理”统一协作
北大与港中文研究团队发布 Fast-in-Slow（FiS-VLA）全新双系统视觉 - 语言 - 动作模型，将快速执行模块嵌入预训练视觉 - 语言模型，实现快慢系统一体化。该模型在多平台表现优异，控制频率大幅领先。
Jina Embeddings v4 的量化感知训练
文章聚焦Jina Embeddings v4的量化感知训练。介绍量化技术可压缩向量体积、提升检索效率，对比四种主流量化方法，重点实验PTQ和Output QAT，还测试非对称量化，给出实验结果与结论。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
CVPR 2025 | 多模态统一学习新范式来了，数据、模型、代码全部开源
中国人民大学、清华和腾讯合作的CVPR 2025论文指出，当前多模态学习范式有缺陷。为此提出新范式，构建AV - UIE数据集、Crab框架，实现任务互助，在多任务上超垂类专家模型，数据、模型、代码开源。