搜索：集群性能优化

「集群性能优化」共找到 2912 篇相关文章

DeepSeek开源MoE新利器LPLB：基于线性规划，专攻训练动态负载不平衡

DeepSeek在GitHub开源LPLB，这是基于线性规划的并行负载均衡器，用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡，支持多种拓扑结构，但也存在成本估算等局限性。

本周介绍5个Github开源项目。ai - berkshire将投资大师方法论系统化；stremio - web聚合视频资源；archify能将大白话描述变成架构图；Maple - font是优化的编程字体；Netcatty整合SSH客户端等功能。

本次讲座聚焦迈向用于演绎推理的诚实语言模型。当前语言模型难诚实推理，输入不足会产生无根据答案。为此制定多步骤任务，提出强化学习方法ACNCHOR，稳定学习过程、提高推理性能。

文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。

彩云科技与北邮联合提出多路动态稠密连接（MUDD）替代残差连接，提升Transformer跨层信息传递效率。实验显示，采用该架构的模型性能显著提升，论文等均已公开。

南洋理工陶大程教授团队等合作，为解决多模态大语言模型处理高分辨率图像问题，探索 RAG 应用可行性，提出 Retrieval-Augmented Perception (RAP) 框架，在多任务上提升性能，已被 ICML 2025 接收。

昨天 GitHub 宕机，Cursor 团队趁势宣布代码托管平台 Origin 面向付费用户推 Beta 版。Origin 为 Agent 规模工作流设计，有代码仓库管理等功能，性能数据挑衅，此前曾提前曝光又撤回。

阿里巴巴突袭发布新一代基座大模型Qwen3.8 - Max，它总参数量达2.4万亿，在多场景表现出色，在权威榜单冲进全球第一梯队，性能直逼Claude，且价格实惠，实测反馈良好。

作者受Karpathy的autoresearch启发，开发了达尔文.skill系统，可自动评估和优化skill。它有五条原则、八维度评分体系，能批量解决skill质量问题，与Anthropic官方工具互补，现已开源。

JetBrains报告显示83%的Python开发者用旧版本，这不仅是技术债务问题，还会增加云账单成本。Python新版本有显著性能提升，升级能节省成本，容器化也未加速升级。