「算子库」共找到 299 篇相关文章

开源动态8

OpenClaw Master Skills:339+ 精选 AI 技能库,让你的智能助手更强大

推荐宝藏级开源项目 OpenClaw Master Skills,它是 MyClaw.ai 团队维护的技能库,汇集 339+ 个 OpenClaw 技能,涵盖多领域,功能亮点多,适用场景广,还介绍了使用方法、精选技能及选择理由。

小华同学ai
开源动态8

无需CUDA代码给H100加速33%-50%,Flash Attention作者新作火了

Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库,用Python写,无需CUDA C++。在H100上比优化库快33%-50%,吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。

量子位
产品应用8

昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%

最近华为在MoE训练系统给出算子和内存优化新方案,三大核心算子全面提速,系统吞吐再提20%,Selective R/S实现内存节省70%,为大规模MoE模型训练扫清障碍。

新智元
推荐文章8

AI Infra进阶:如何让大模型输出确定的结果

文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。

腾讯技术工程
新闻资讯7

突发|立即检查你的Python库!LiteLLM被投毒,Karpathy警告,马斯克关注

Karpathy发长推文警告,GitHub超4万星、月下载量9700万次的Python库LiteLLM在PyPI上被投毒,含恶意代码版本为1.82.7和1.82.8,攻击负载分三阶段运行,引发马斯克关注。

机器之心
产品应用8

用完字节的火山 VikingDB,我都不舍得告诉别人

作者所在团队与字节跳动的VikingDB RAG产品合作研发墨问“知识库”功能。介绍了VikingDB的向量库、知识库和长期记忆库能力,对比传统数据库凸显其优势,还阐述了相关技术推动信息连接变革。

MacTalk
算法论文8

CVPR 2025 Oral | DiffFNO:傅里叶神经算子助力扩散,开启任意尺度超分辨率新篇章

本文由圣路易斯华盛顿大学与北京大学联合完成,提出DiffFNO以神经算子赋能扩散架构,支持高质、高效、任意连续倍率超分,介绍其核心思路、组件及优势,在多数据集上领先SOTA方法,为超分提供新思路,适用于多领域。

机器之心
开源动态8

蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践

文章是对蚂蚁开源x SGLang Meetup分享的回放解读,聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案,分析在Blackwell上做GEMM + AllReduce融合算子的优势,介绍multimem指令等,还提及接入模型执行路径和性能结果。

GiantPandaLLM
产品应用7

Claude Sonnet 4 上下文翻 5 倍!100 万 token 能处理更大型代码库,AI 代码分析起飞。

Claude Sonnet 4 加入‘百万 token 俱乐部’,上下文容量翻 5 倍达 100 万,能处理大型代码库。不过功能在 Beta 有使用门槛和限制,价格也有变化,还对比了市场上其他模型。

AI进修生
算法论文8

刚刚,英伟达革了自己的命:智能体自主进化7天,干掉所有算子工程师、GPU专家

英伟达新研究AVO构建了新型进化变异算子,用自主编码智能体取代经典方法。智能体7天自主进化,优化MHA内核,性能超cuDNN和FlashAttention - 4,还能快速适配GQA,展现强大泛化能力。

机器之心