「算子库」共找到 299 篇相关文章
OpenClaw Master Skills:339+ 精选 AI 技能库,让你的智能助手更强大
推荐宝藏级开源项目 OpenClaw Master Skills,它是 MyClaw.ai 团队维护的技能库,汇集 339+ 个 OpenClaw 技能,涵盖多领域,功能亮点多,适用场景广,还介绍了使用方法、精选技能及选择理由。
无需CUDA代码给H100加速33%-50%,Flash Attention作者新作火了
Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库,用Python写,无需CUDA C++。在H100上比优化库快33%-50%,吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。
昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案,三大核心算子全面提速,系统吞吐再提20%,Selective R/S实现内存节省70%,为大规模MoE模型训练扫清障碍。
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
突发|立即检查你的Python库!LiteLLM被投毒,Karpathy警告,马斯克关注
Karpathy发长推文警告,GitHub超4万星、月下载量9700万次的Python库LiteLLM在PyPI上被投毒,含恶意代码版本为1.82.7和1.82.8,攻击负载分三阶段运行,引发马斯克关注。
用完字节的火山 VikingDB,我都不舍得告诉别人
作者所在团队与字节跳动的VikingDB RAG产品合作研发墨问“知识库”功能。介绍了VikingDB的向量库、知识库和长期记忆库能力,对比传统数据库凸显其优势,还阐述了相关技术推动信息连接变革。
CVPR 2025 Oral | DiffFNO:傅里叶神经算子助力扩散,开启任意尺度超分辨率新篇章
本文由圣路易斯华盛顿大学与北京大学联合完成,提出DiffFNO以神经算子赋能扩散架构,支持高质、高效、任意连续倍率超分,介绍其核心思路、组件及优势,在多数据集上领先SOTA方法,为超分提供新思路,适用于多领域。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读,聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案,分析在Blackwell上做GEMM + AllReduce融合算子的优势,介绍multimem指令等,还提及接入模型执行路径和性能结果。
Claude Sonnet 4 上下文翻 5 倍!100 万 token 能处理更大型代码库,AI 代码分析起飞。
Claude Sonnet 4 加入‘百万 token 俱乐部’,上下文容量翻 5 倍达 100 万,能处理大型代码库。不过功能在 Beta 有使用门槛和限制,价格也有变化,还对比了市场上其他模型。
刚刚,英伟达革了自己的命:智能体自主进化7天,干掉所有算子工程师、GPU专家
英伟达新研究AVO构建了新型进化变异算子,用自主编码智能体取代经典方法。智能体7天自主进化,优化MHA内核,性能超cuDNN和FlashAttention - 4,还能快速适配GQA,展现强大泛化能力。