搜索：异步调度 - AI Reading Hub

「异步调度」共找到 207 篇相关文章

重磅开源！首个全异步强化学习训练系统来了，SOTA推理大模型RL训练提速2.77倍

清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²，坚持“全面开源、极速训练、深度可定制”理念，实现异步 RL 训练，训练速度最高提升 2.77 倍，支持多轮智能体强化学习训练。

在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。

LangChain发布开源异步编码智能体Open SWE，可在云端处理复杂开发任务，能集成到开发者工作流。它连接GitHub仓库，在沙箱运行，强调人在回路控制，多智能体架构保障代码质量，早期反应褒贬不一。

随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。

Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。

MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。

Kestra 是开源工作流编排平台，用于处理复杂任务自动化问题。它跑在 JVM 上，用 YAML 配置，支持插件扩展。适用于多种任务调度场景，有配置简单、稳定、容错等特点，安装也容易。

AI编程圈火了个工具9Router，它是智能调度中心，能连接主流编程工具，自动路由到40多家AI提供商和100多个模型，自带RTK Token节省器，还有实用的三级降级机制，安装配置简单。

本文借助开源项目，构建可在MCP Server中异步运行的DeepResearch，支持任务进度推送与超时控制。介绍项目架构、构建步骤、任务管理器实现要点及效果测试，还提及优化方向并给出源码。

上海交大与澜舟科技研究发现现有移动端GUI智能体处理复合长程任务能力不足，提出UI - Nexus测试基准和Agent - NEXUS调度系统，经实验能提升任务完成率，也为AI原生操作系统建立雏形。