「块稀疏GPU内核」共找到 567 篇相关文章
全球AI新王诞生!Anthropic估值冲爆1.2万亿,首次反超OpenAI
Anthropic估值达1.2万亿美元反超OpenAI,若上市将成全球第11大上市公司。其年化收入和使用量一季度同比增80倍,获马斯克22万张GPU及谷歌2000亿美元云服务协议,但维持高估值面临挑战。
赢家诅咒?英伟达暴跌背后的泡沫之辩
11月3日至28日,英伟达股价跌幅近15%,黄仁勋有危机意识。同时谷歌股价涨超13%,Gemini3.0重建投资者信心。行业面临‘Scaling时代终结’论断,围绕英伟达GPU折旧周期有争议,TPU路线现曙光,国产算力加速替代。
俩“中国英伟达”,给了FA信心
国产替代和AI浪潮下,摩尔线程和沐曦股份同日递交招股书引发热议。招股书显示,二者Pre - IPO轮融资给FA数千万甚至上亿顾问费。这或因GPU研发烧钱、市场竞争激烈,快速融资对企业很重要。
MiniCPM 4.0极速狂飙,端侧模型的比赛,结束了!
面壁智能联合清华发布MiniCPM 4.0,极限场景220倍加速。它是首个原生稀疏模型,有InfLLM v2、CPM.cu等创新,基准测试碾压对手,适配全平台,还有科研、工具调用等功能,标志端侧长文本时代到来。
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录:4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录,详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程,公开4×B300 GPU实测吞吐数据,附复现代码与步骤
Kimi K2技术报告正式发布:“保姆级”深度解析,一文读懂万亿参数智能体的所有秘密
Kimi K2技术报告发布,Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进,有预训练、架构设计等多方面创新,为智能体领域提供可行路径。
再创历史!英伟达市值一夜突破5万亿美元,今年涨幅56%,黄仁勋晋升全球第八富豪
10月29日,英伟达市值突破5.03万亿美元,成全球首家破5万亿美元公司,今年涨幅56%。黄仁勋以1792亿美元持股价值居福布斯富豪榜第八。这或因GTC大会公布多项革新与合作,且AI热潮让其GPU需求旺盛。
入局AI Infra:程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。
嘘,Claude正在「做梦」!睡一觉疯狂进化,一夜暴涨6倍战力
Anthropic在Code with Claude开发者大会上,给Claude托管智能体添加Dreaming功能,让其能自动回顾记忆、自我进化,还发布Outcomes和多智能体编排。法律AI公司Harvey用后任务完成率飙升约6倍。Anthropic还租下22万张GPU算力。
一年后,DeepSeek-R1的每token成本降到了原来的1/32
几天前,DeepSeek更新R1论文至86页,公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效,通过软硬协同提升每瓦特Token吞吐量,还介绍了TensorRT - LLM软件及相关技术提升性能的情况。