「负载均衡」共找到 91 篇相关文章
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
谷歌云推出面向毫秒级延迟工作负载的 Rapid Storag
在 Google Cloud Next 2025 大会上，谷歌云推出 Rapid Storage，为频繁访问数据和延迟敏感应用提供毫秒级数据访问，有低延迟、高吞吐量等特点，还与亚马逊 S3 Express 被比较，目前处于预览阶段。
CNCF 警告：仅靠 Kubernetes 不足以保障 LLM 工作负载的安全性
云原生计算基金会（CNCF）指出，企业在 Kubernetes 上部署大语言模型（LLM）存在安全缺口。Kubernetes 无法理解或控制 AI 系统行为，需增加额外控制层，引入 AI 特定控制。
Anthropic 发布第四份人类经济指数报告：AI 对全球工作的影响仍然不均衡
Anthropic发布第四份经济指数报告，提出“经济基元”概念，用五个基础指标衡量AI使用情况。报告发现任务越复杂，AI加速效果越明显，不同国家使用方式有差异，还提及“去技能化”等情况及对生产力的影响。
优步针对微服务和大规模计算工作负载完成了大规模的 Kubernetes 迁移
优步成功将计算平台从 Apache Mesos 迁至 Kubernetes，覆盖多数据中心和云环境。工程团队详述迁移挑战、方案与教训。虽遇技术、文化难题，但迁移后运营效率等提升，为大公司提供借鉴。
全球云数据库巨头收购Crunchy Data，增强AI Agent能力
全球云数据库巨头Snowflake宣布收购Crunchy Data，发布新型Postgres数据库Snowflake Postgres，满足企业级AI和事务系统需求，具有安全合规等特点，有三大特色功能，推动其成为企业数据负载目的地。
英伟达Vera Rubin首秀，DeepSeek V4 Pro 跑出30倍Agent吞吐
NVIDIA公布基于真实芯片的Vera Rubin性能测试结果，在针对Agent工作负载的测试中优势明显。SpaceXAI将部署其CPU，探索轨道计算。这显示未来AI竞争关键是支撑Agent的计算基础设施。
刚刚，OpenAI牵手亚马逊，7年380亿美元AI云计算大单到手
OpenAI与AWS官宣建立多年战略合作伙伴关系，合作总额达380亿美元，是史上最大云服务交易之一。AWS将为OpenAI提供基础设施支持，助其扩展AI工作负载，双方CEO均表期许。
训练MoE足足提速70%！华为只用了3招
Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。