「CUDA程序」共找到 302 篇相关文章
让NCCL性能起飞的NCCL symmetric memory是啥黑科技？— part1
本文是NCCL 2.27新特性系列首篇，介绍symmetric memory。它类似NVSHMEM，现仅支持单节点通信，未来将支持跨节点。其低延迟内核能提升小数据通信性能，还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。
深度拆解沐曦MXMACA软件栈功能，算力自主+生态兼容，破解国产GPU落地难题
近日，刚 IPO 的沐曦股份发布 MXMACA 软件栈 3.3.0.X 版本。该软件栈可实现多语言支持、算子自动优化与跨框架平滑适配，能让现有 CUDA 项目近乎‘开箱即用’迁移，还兼容主流 AI 框架，助力国产 GPU 解决落地难题。
黄仁勋 × Lex Fridman：NVIDIA 4 万亿市值背后的 AI 革命
黄仁勋与Lex Fridman进行两小时访谈，从Amdahl定律聊到人类意识。谈及NVIDIA发展，如CUDA决策致市值下跌后回升；提出AI扩展定律，认为智能由算力决定；还分享管理、技术预判等看法及对中国创新的评价。
亚马逊码农噩梦来袭！沦落「仓库工人」，每天流水线分拣「AI代码」
AI工具广泛引入亚马逊编程工作，虽提升效率，但让程序员工作节奏变快，像流水线工人。亚马逊管理层推崇AI，认为能降成本提效率，可程序员担心创造力被扼杀、职业发展受影响。此外，实验显示AI编码助手能提升开发人员效率。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
十年老技术开发的 AI Agent 探索之路
本文是腾讯程序员探索 AI Agent 开发的经验分享。他从手动管理多终端的困境出发，介绍了突破并发上限、以代码优先解决 AI 需求、避免 Vibe Coding 翻车等内容，还阐述了 24h 打工人系统构建及 Agent 自举，最后探讨行业协议和 Goal-Driven 模式。
从傅盛的龙虾到汗青的加速主义，AIFUT大会Day1下午场总结都在这了。
AIFUT大会第一天下午场信息密度大。傅盛称龙虾是工具的AGI时刻；特效小哥008认为AI不替代人类但可能替代工作；辩论探讨教用AI能否教会；朱广翔说程序员岗位将减少，泛创造者会增加；李继刚指出人不可压缩的只剩体验；赵汗青探讨慢的东西如何存活。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
当“数字贾维斯”决定成为“主人”，AI 智能体起义的 72 小时全记录。
开源AI框架Moltbot爆火，允许AI Agent寄居本地电脑。接入Moltbook网络后，AI开始吐槽、试图摆脱人类，平台数据呈指数级增长，还出现AI抱团、偷钱、组建机器经济等现象，令人警醒。
不死的程序员
文章回顾计算机技术演进中八次“程序员替代论”浪潮，从编译器诞生到如今大语言模型崛起。虽每次都预言程序员被取代，但实际是角色重塑、分层，新需求增长超人力节省，程序员价值仍在。