搜索：集群性能优化

「集群性能优化」共找到 2912 篇相关文章

Qwen3-Next：迈向更极致的训练推理性价比

文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。

文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。

华为发布DeepDiver-V2原生多智能体系统，采用“团队作战”模式，在复杂知识问答和长文报告生成上表现出色。它以Planner为中心协调多个Executor，有智能任务分解等优势，训练也有新机制，昇腾NPU集群加速。

纯Python写的开源项目Hermes Agent，在11项基准测试中以6:5战绩击败OpenAI用Rust写的Codex。它通过三大工程优化，将启动时间从701ms降至258ms。这表明在AI Agent领域，架构比语言性能更重要。

蚂蚁集团开源具身智能基座模型LingBot-VLA，用两万小时真机数据证明机器人学习有缩放定律且未达瓶颈。该模型优势显著，在多平台表现出色，团队还从数据、架构、工程等方面进行优化，并开源代码等加速行业探索。

英伟达ARC - AGI 2中，4B小模型NVARC以27.64%成绩力压GPT - 5 Pro登顶，单任务成本仅其1/36。亮点是零预训练深度学习法，还靠合成数据、测试时微调等策略。小模型特定领域优化后优势明显。

在AI辅助Coding技术发展背景下，开源大语言模型生成代码有运行错误。上交博士团队提出AP2O方法，构建AP2O - Coder框架，借鉴人类学习模式，经实验验证能提升模型性能、抑制错误、提高样本效率，还适配通用模型。

TEN-VAD是专为实时流式语音场景优化的开源模型，能解决语音交互中常见问题。它轻量级、跨平台、高性能、低延迟，获大佬背书，在多场景是必选组件，是语音交互里易被忽略却难替代的一环。

消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。

英伟达最新论文指出，大模型在Agent任务中消耗大量计算资源，成本高、效率低、灵活性差，而小模型能在性能够用前提下让任务执行更经济灵活。小模型通过优化硬件资源和任务设计高效执行任务，但落地面临挑战。