「集群性能优化」共找到 2912 篇相关文章
MiniMax海螺视频团队首次开源：Tokenizer也具备明确的Scaling Law
MiniMax海螺视频团队首次开源，揭晓视觉分词器难题答案。其推出的VTP框架可提升模型性能，解决传统Tokenizer缺陷，还展示了Tokenizer的Scaling Law，为行业提供新路径。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
华为CloudMatrix重磅论文披露AI数据中心新范式，推理效率超NV H100
华为发布60页重磅论文，提出下一代AI数据中心架构Huawei CloudMatrix及产品CloudMatrix384。它架构设计独特，性能高效准确灵活，打破算力、延迟和成本“不可能三角”，重新定义AI基础设施。
不靠Agent，4步修复真Bug！蚂蚁CGM登顶SWE-Bench开源榜
蚂蚁集团代码图模型 CGM 基于开源模型，不靠 Agent 架构，用 4 步轻量级流程完成仓库级代码修复，在 SWE - BenchLite 公开排行榜成绩亮眼，打破闭源垄断，还解决了 LLM + Agent 架构的一些问题。
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
Vector数据库退位，AI记忆Memvid登场！
近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。
Sam Altman OpenAI 星际之门与马斯克xAI Colosus 2谁更强？
马斯克与Sam Altman在X上晒自家数据中心进展。OpenAI星际之门项目初始投资5000亿美元，与Oracle新增算力；xAI Colossus 2占地大、建设快，预计几周上线，将成全球最大AI超算集群。
阿里QwenLong-32B：1W+超长Token推理，知识密集型复杂文档高效推理
文章介绍阿里QwenLong - 32B在长文本推理的能力。长文本推理有训练效率低和优化不稳定问题，QWENLONG - L1通过强化学习等解决，还阐述其组件、训练步骤，并给出实战代码及相关链接。
英伟达Vera Rubin首秀，DeepSeek V4 Pro 跑出30倍Agent吞吐
NVIDIA公布基于真实芯片的Vera Rubin性能测试结果，在针对Agent工作负载的测试中优势明显。SpaceXAI将部署其CPU，探索轨道计算。这显示未来AI竞争关键是支撑Agent的计算基础设施。