「CUDA - Q」共找到 200 篇相关文章
算力十年狂飙100000倍，他却每天担心破产！黄仁勋亲述：如何用“30天危机感”逆袭万亿AI市场
英伟达推出 CUDA Toolkit 13.1，号称 20 年来最大更新，有 Tile 编程等亮点。黄仁勋回顾创业，称每天有破产危机感。他还谈 AI 发展、应用、意识及工作影响等，认为 AI 会创造新工作，也能缩小技术鸿沟。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。
死敌爆料是狠！OpenAI内部信阴阳Claude营收注水80亿，然后泄露了…
OpenAI首席营收官Denise Dresser给员工的内部信被泄露，信中透露Q2企业业务方向，还贬低对手Anthropic，称其300亿年化营收虚高80亿。此外，还提及OpenAI未来计划，如推新模型Spud、与Amazon合作等。
Cursor为Blackwell从零构建MXFP8内核，MoE层提速3.5倍，端到端训练提速1.5倍
Cursor团队从NVIDIA的Hopper H100s升级到Blackwell B200s后遇性能瓶颈，他们回归基础，从零重写MoE训练层，抛弃对现有CUDA库依赖，释放了Blackwell架构潜能，实现MoE层和端到端训练提速。
AI收入暴涨！英伟达超过苹果，成为全球市值第二
根据CompaniesMarketCap数据，英伟达公布财报后股价升超4%，一度成全球市值第一。截至5月29日收盘，其市值超苹果，仅比微软少150亿美元。虽此前受DeepSeek冲击，但Q1营收、利润仍创新高，二季度预计乐观。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
当英伟达收购Groq引发行业震动，中国存算一体赛道正在发生什么？｜甲子光年
2025年底英伟达200亿美元收购Groq，让存算一体成产业刚需。传统GPU受存储墙限制，算力利用率低。Groq采用SRAM成本高，而亿铸科技以消费级显卡价格提供H卡性能，兼容CUDA，或成产业真需求。
刚刚，英伟达祭出下一代GPU！狂飙百万token巨兽，投1亿爆赚50亿
昨天，英伟达发布专为海量上下文AI打造的CUDA GPU——Rubin CPX，将大模型推理带入「百万Token时代」。它性能强大，能带来高回报，可重写推理经济，还将得到英伟达全栈AI生态支持，预计2026年底可用。
刷屏的SBTI，底层算法有点东西…
近期SBTI人格测试爆火，它出自B站UP主Q肉儿串儿，初衷是劝朋友戒酒。经分析，它大概率是“人工主导+AI辅助”的产物，技术架构简单，算法逻辑是答题拆维度、分数归档、模板匹配。此外，还有大神网友推出MBAI版测试题。
多家芯片公司业绩飙涨，这个赛道彻底火了？
近期多家A股芯片公司Q3财报亮眼，受益于端侧AI推进。端侧AI优势多，吸引科技巨头布局，但落地有挑战。技术进步使大模型轻量化，手机与AI眼镜较热。其发展面临应用、技术、生态等问题，也有隐私保护方案。