搜索：分布式集群技术

「分布式集群技术」共找到 2951 篇相关文章

MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070即可实时运行

面壁智能联合多机构发布 MiniCPM-o 4.5 技术报告，公开 Omni-Flow 框架。该模型 9B 参数实现端到端全双工全模态，开放在线 Demo、API 等，最低 12GB 显存 GPU 可运行，在多维度评测表现出色。

面壁智能等联合发布MiniCPM-o 4.5技术报告，它是业界首个端到端全双工全模态大模型，采用Omni - Flow架构。同步推出在线Demo、API、端侧安装包等，低显存GPU即可运行，性能表现优秀，应用潜力大。

2025年Agent成AI热词，科技巨头与初创公司纷纷布局。微软和Salesforce掌门人公开“互呛”，代表两种不同落地路径。前者主张通用框架，后者强调垂直集成。当前二者Agent均有落地，但面临技术、成本等挑战。

上个月底智谱开源 GLM-4.5 及轻量版，成绩亮眼引热议。现其技术报告发布，详述预训练到后训练细节，还介绍了开源 RL 框架 slime，展示模型架构、训练阶段等，评估了在多任务上的表现。

一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。

OpenAI闭源后，大家不知其先进模型技术路线，解密成重要任务。DeepSeek R1年初开源后引发关注，小红书团队核心贡献的论文似破解o3谜题，还开源模型等，为训练调优提供可行路线。

文章是 sglang 源码学习笔记，聚焦分布式和并行，以 deepseek 为例。介绍通信域类型，分析 ZMQ 和 torch.dist 通信，阐述 TP、DP、EP 实现，包括初始化、使用等，还涉及不同 Linear 层 TP 及 MoE 不同实现情况。

全球网络通信顶会 ACM SIGCOMM 2025 落幕，华为与港科大合作的 DCP 研究成果获奖。该论文提出数控分离传输架构 DCP，解决大规模 AI 集群网络可扩展性难题，实验显示其性能优于现有 RDMA 方案。

近日，抖音内容技术团队开源ContentV，这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型，在多评估维度效果与主流方案相近，还探索了有限算力下训练路径，现推理代码与权重已开放。

昆仑万维CEO方汉认为，AI泡沫是必经阶段，产品价值落地成主线，生态是系统工程。今年两类公司突围，四类公司落后。2026年技术赛点是Agent自动化‘可验证过程’。