「GPU内核优化」共找到 1625 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型,还生成量化版本并上传。介绍使用方法、注意事项,经测试推荐IQ3_S或IQ3_M版配合定制工具。
杨植麟回复:Kimi K2训练用的H800!但“只花了460万美元”嘛…
月之暗面团队回应Kimi K2 Thinking训练成本,透露用英伟达H800,GPU少但利用充分。该模型凭实力与低成本引迁移潮,还引发对闭源巨头估值反思。技术上有优化创新,团队还公开答疑。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、多层MTP优化等全栈优化方法论,还介绍多机性能优化方案,后续预计性能突破20000 tokens/s。
基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel
作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现,其中包含量化Kernel。文章关注此Kernel,介绍在B200上实现高性能Memory Bound Kernel的优化技术,如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。
苹果App Store榜单优化重要性,榜单优化的主要方式(进阶篇三)
流量探涨,ASO进阶篇,增长人的必备效率手册,带你升级为应用商店推广高手ASO进阶篇知识分为四章,今天更新第
海外chatgpt/gemini的SEO/GEO优化建议
Similarweb 1 月 2 日发布 AI 全球趋势报告,复盘多赛道流量变化。通用 AI 市场竞争激烈,ChatGPT 流量降 22%,Gemini 增 49%;垂直领域头部效应明显。还给出 SEO 和 GEO 优化建议。
SEO是什么?SEO一般指搜索引擎优化
搜索引擎优化(SEO)是网站经营者利用搜索引擎规则提升网站排名的商业行为,目的是在行业内占据领先地位,获取品牌收益。但SEO技术手段多样,黑帽与白帽方法的选择直接影响网站的长期发展。
昔日GPU霸主,今日CPU屠夫?黄仁勋亮大招
2026年1月26日,英伟达CEO黄仁勋宣布以20亿美元购入CoreWeave的A类普通股。Vera CPU首次作为独立基础设施选项走向市场,挑战英特尔和AMD。其技术规格有巨大飞跃,能减少数据中心能耗与散热。
继GPU、存储暴涨之后,AI最终攻陷CPU市场
AI引发全球性芯片短缺,GPU、内存、存储类芯片市场已超预期,如今CPU市场也受影响。Intel和AMD 3月上调CPU价格,平均涨幅10% - 15%,还面临资源短缺,交付周期延长。这或使CPU市场格局出现变化。
刚刚,DeepSeek扔出大杀器,梁文锋署名!暴力优化AI架构
2026新年第一天,DeepSeek发表梁文锋署名新论文,提出「mHC(流形约束超连接)」架构。它仅增约6.7%训练时间开销,就能让27B参数模型性能显著提升,还可能淘汰ResNet结构。