「分布式架构」共找到 1922 篇相关文章
首次披露！DeepSeek V3 发布软硬一体协同训练论文，公开「降成本」秘诀
DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
OpenAI 早期董事会成员：算法与神经网络成“超能架构”，我们如何自处？｜文末赠书
OpenAI 早期投资人里德·霍夫曼新书《AI 赋能》中文版推出。书中提出 AI 应是放大人类行动力的工具，还阐述“超级能动性”概念，强调技术与人类深度共生，批判盲目创新，主张技术锚定人文价值。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
全网首测！首款国产GPU「AI算力本」现场上手
新智元报道首款国产GPU「AI算力本」MTT AIBOOK，它搭载国产全功能显卡，预装开发环境，打破系统壁垒。其背后的MUSA架构全栈自研，软件升级、有翻译工具，硬件架构革新，还有开源计划，产品应用广泛。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2
Jet - Nemotron是英伟达推出的小模型系列（2B/4B），由全华人团队打造。其提出PostNAS与JetBlock，实现架构优化。相比Qwen3等模型，它在多维度准确率更高，H100 GPU上推理吞吐量最高提升53倍。
将思维链（CoT）引入具身世界，哪种路径能真正打通机器人「知行合一」？
文章围绕将思维链（CoT）引入具身智能领域展开。介绍CoT从语言层面到成为机器人行为核心认知机制的转变，分析分层架构与端到端模型两种技术路径，还阐述自变量机器人统一架构的优势和能力。
核心AI场景首超英伟达，一场国产算力的“破局叙事”｜甲子光年
1月26日，天数智芯公布四代架构路线图，其2025年的天数天枢架构，在DeepSeek V3场景实测性能领先英伟达Hopper约20%。该企业以技术创新、解决行业痛点等构建新范式，产品全场景布局且已规模化落地。
华科校友在港冲刺AI infra第一股！已是中国最能赚的独立边缘云服务商，王小川天使轮就投了
PPIO派欧云作为独立分布式云计算服务商，是AI云计算服务先行者，近期在港交所递交招股书。它由华科校友创立，获王小川等投资，业务分边缘云与AI云计算，虽亏损但现金储备足，看好分布式云计算市场。