「block分配」共找到 122 篇相关文章
DeepSeek开源MoE新利器LPLB：基于线性规划，专攻训练动态负载不平衡
DeepSeek在GitHub开源LPLB，这是基于线性规划的并行负载均衡器，用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡，支持多种拓扑结构，但也存在成本估算等局限性。
美国2月9万裁员狂潮，超过去一年！亚马逊甲骨文成最大刽子手
2026年2月美国已裁9万个岗位，超2025年全年。亚马逊、甲骨文、Block等公司因AI裁员，如甲骨文为建数据中心，亚马逊为“去官僚化”。AI重写用人公式，威胁流程型白领等三类人。
刚刚，全球首个GB300巨兽救场！一年烧光70亿，OpenAI内斗GPU惨烈
为争夺有限GPU，OpenAI内部争斗激烈，2024年算力投入70亿美元仍不够。微软发布全球首台GB300超算专供OpenAI，可让万亿LLM数天训完。OpenAI建立资源分配机制应对挑战。
DeepSeek-V4蓄势待发！梁文锋署名论文或开启第二个DeepSeek时刻
据报道，DeepSeek将于2月发布新一代旗舰模型DeepSeek V4，其编程能力或超Claude和GPT系列。最新论文提出Engram条件记忆机制，分离死记硬背与逻辑推理，揭示新稀疏性分配定律。
我的Agent系统设计思路
作者介绍内容生产系统newtype OS，以写Newsletter为例展示其运作，包括主Agent Chief的工作流程，如获取文档、制定大纲、分配任务等，还阐述使用AI工具的思路，后续将添加自我总结模块。
递归神经网络的复兴：Mixture-of-Recursions
Google DeepMind研究者设计的语言模型，能判断关键单词并进行深度递归计算，通过轻量级“路由器”节省计算资源，在同等训练成本下表现显著优于传统模型，文中还提及其他解决动态算力分配问题的思路。
领域驱动的 RAG：基于分布式所有权构建精准的企业知识系统
银行技术供应商为解决文档和专业知识获取难题，探索用 RAG 技术，严格将 AI 作咨询工具。重新分配 RAG 实施所有权，采用元数据方法，探索伸缩性解决办法，构建完整应用并评估性能，结果令人振奋。
三星谈判破裂！5万人或将罢工，芯片供应链告急
据路透社5月13日报道，三星电子与韩国工会薪资谈判破裂，超5万工人或罢工，扰乱AI及其他芯片生产。双方争端核心是绩效奖金分配，工会诉求未得到解决，若不满足将在5月21日开启18天罢工。
【博客转载】CUDA Kernel Execution Overlap
文章讨论CUDA kernel执行重叠，指出有足够计算资源时可重叠，通过调整`blocks_per_grid`值，观察到不同并行化程度。还提到隐式同步会影响重叠，可启用`per-thread` default Stream 禁用。
DeepSeek悄悄开源LPLB：用线性规划解决MoE负载不均
昨天，DeepSeek 在 GitHub 上线新代码库 LPLB 解决 MoE 负载不均。它利用线性规划算法优化专家并行工作负载分配，能处理动态波动，但也存在忽略非线性成本等局限，对 MoE 架构训练加速有参考价值。