「并行计算」共找到 881 篇相关文章
刚刚！北大校友Lilian Weng最新博客来了：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
单Agent时代结束，AI们开始组团上班
月之暗面发布并开源K2.6，重点升级代码能力与多Agent协作的“Agent集群”能力。K2.6在Artificial Analysis上取得全球开源第一，实测能并行交付多格式成果，还展现出强大的全栈应用开发能力。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
AI证伪百年数学猜想被打假！Lean证明惊现漏洞，哥大教授破防了
OpenAI新推理模型取得十项数学进展，如证明非Sofic群存在性等。哥伦比亚大学副教授Henry Yuen对其量子并行重复定理证明既兴奋又失望，因证明有AI味且难理解。此外，Lean证伪科拉兹猜想被指利用内核漏洞，专家提醒Lean验证有局限。
AI开始接管实验室了！玻尔·跃迁实验室：试剂、设备、数据一个入口搞定，1800+设备即插即用
深势科技推出玻尔·跃迁实验室，解决传统实验室设备割裂、经验依赖、数据离散、部署低效等痛点，围绕计算 - 实验 - 数据 - 计算无缝闭环底层重构，与传统 ELN/LIMS 不同。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
伏曦量子完成天使及天使+轮融资，五源资本、启盈同创等跟投
近日，伏曦量子宣布完成天使及天使+轮融资，由全球动力电池行业龙头领投，多家机构跟投。该公司由赵琦博士创立，定位是帮助产业客户理解和使用量子算力，其核心价值是优化算法，让问题可在近期硬件测试。
清华万引教授：万倍加速催化剂设计，AI突破DFT瓶颈！
清华大学王笑楠团队提出催化剂设计新基础模型SurFF，发表于Nature Computational Science。它无需昂贵实验或耗时DFT计算，实现对金属间化合物表面暴露与形貌的高效、高精度预测，计算速度提升10⁵倍。
DeepSeek开源MoE新利器LPLB：基于线性规划，专攻训练动态负载不平衡
DeepSeek在GitHub开源LPLB，这是基于线性规划的并行负载均衡器，用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡，支持多种拓扑结构，但也存在成本估算等局限性。