「集群管理」共找到 636 篇相关文章
一条SQL管理向量全生命周期，让AI应用开发更简单
在大模型驱动的AI浪潮中，向量在AI应用开发中至关重要，但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案，在数据库内核集成向量索引与Embedding能力，用一条SQL管理向量全生命周期，降低开发和维护门槛。
全球AI算力大战变天！十万卡算力集群爆表，国产IB真香？
大模型竞赛进入万卡、十万卡时代，网络取代算力成新瓶颈。过去RoCE因成本优势受青睐，但集群规模扩大后运维复杂。IB架构以其稳定性迎来价值重估，国产IB方案突破或改变技术路线选择。
Meta将推出闭源模型，并砸数千亿美元打造超算集群
Meta正在酝酿大转向，扎克伯格宣布砸数千亿美元建超算集群，还考虑将强大AI模型Behemoth从开源转闭源。此前Meta一直高举开源大旗，如今因模型内部表现不佳等因素动摇开源信仰。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
从日志学习到风洞验证：构建 GPU 集群的 AI Native 稳定性闭环
文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段，将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层，形成完整闭环，推动智算集群稳定性建设升级。
斩获6.1 star，再见Crontab！这款开源定时任务管理系统让运维更高效
Gocron是基于Go语言的轻量级定时任务管理系统，可替代Linux Crontab。它有可视化界面、秒级调度等功能，适用于自动化运维等场景，通过Docker一键部署，比同类项目更具优势。
OpenAI发布MRC超算协议，重塑10万GPU集群通信，AMD等合作推进
OpenAI联合AMD等发布MRC超算协议，它基于RoCE标准，打破传统网络局限，解决超大规模计算集群难题，降低成本与能耗。MRC有多平面网络等特性，已在多超级计算机部署，规范也已公开。
华为版《黑客帝国》首次亮相：训推复杂AI前先“彩排”，小时级预演万卡集群
华为首次亮相数字化风洞虚拟环境平台，可在训推复杂AI模型前“彩排”，小时级预演万卡集群。其包含Sim2Train、Sim2Infer、Sim2Availability，分别解决训练、推理、高可用问题。
即将开源 | 阿里云Tair KVCache Manager：企业级全局 KVCache 管理服务的架构设计与实现
阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager，介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战，解决传统模式难题，具备企业级管理能力，后续还会完善多方面功能。
上线一年用户破百万，这个AI健康管理产品只靠一只海獭？ | 对话OtterLife
AI健康管理产品众多，多数陷入同质化或功能堆砌困局。OtterLife将虚拟海獭融入健康习惯养成，上线一年用户破百万。量子位智库对话其负责人相城，探讨产品特色、市场、设计等多方面问题。