「数据流调度解耦」共找到 252 篇相关文章
从 Hadoop 到 Kubernetes:Pinterest 在 AWS EKS 上的可扩展 Spark 架构
Pinterest将基于Hadoop的数据平台替换为Moka,这是在AWS EKS上运行Spark的Kubernetes原生系统。Moka实现容器化作业隔离,支持ARM实例,改进调度、简化部署,降低成本、提高效率。
CUTLASS CuTe GEMM细节分析(二)——TiledCopy与cp.async
文章深入分析TiledCopy,从参数理解、访存连续性等角度展开。介绍Tiler_MN和TiledLayout_TV意义及构造,指出访存连续性影响性能,还说明了基于cp.async构造TiledCopy的要点,如ValLayout选择和Layout限制。
南开 && UIUC | SearchAgent-X,打破「效率瓶颈」,让复杂「AI搜索智能体」走向现实
南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架,解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因,通过两大‘加速引擎’优化性能,实验显示效果显著。
Agent 走向具身世界:从语言智能到机器人「大脑指挥官」
华为诺亚方舟实验室发布 RoboHarness 系统,解决不同策略协作问题。它将独立控制系统封装成可调度技能,由 Coding Agent 决策,还设计辅助技能和 Memory Bridge 模块,促进策略协同,推动具身智能发展。
全球首个,连续时间具身世界模型!任意帧率自由生成
来自清华AIR与UC Berkeley BAIR的团队提出全球首个连续时间具身世界模型ODEWorld。它学习世界在每个时刻的变化方向与速度,能任意帧率自由生成,统一了离散模型分散的生成能力。
月吞100万亿Token!AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资,估值达13亿美元。它每周处理25万亿个tokens,全球用户超800万。其提供AI推理统一控制层,解决企业多模型管理难题,开源模型崛起使其价值凸显。
DeepSeek-V4蓄势待发!梁文锋署名论文或开启第二个DeepSeek时刻
据报道,DeepSeek将于2月发布新一代旗舰模型DeepSeek V4,其编程能力或超Claude和GPT系列。最新论文提出Engram条件记忆机制,分离死记硬背与逻辑推理,揭示新稀疏性分配定律。
重磅发布!国家队出手解决企业跨省通信「老大难」,语音识别错误率暴降20%
企业全国语音通信业务曾面临交付周期长、AI应用门槛高的问题。联通云犀平台以「全云化架构+语音AI基座」破局,实现架构重构与AI进化,降低方言识别错误率,在多行业落地降本增效。
深度拆解,硬核解构,揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统,介绍其核心组件和高级特性,包括推理引擎流程、调度机制、高级功能等,还提及系统扩展、分布式部署、性能测量等内容,助力读者理解推理引擎工作原理。
为MoE解绑:全新「专家即服务」推理架构发布,超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长,MoE架构虽能避免计算量同比增,但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS,实验显示它能锐减37.5%成本。