「使用方式」共找到 1969 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA,它能高效传输多维数组数据。文中展示用TMA对2D数组操作,如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法,最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
刚刚,DeepSeek V4 Pro正式版发布!
周三晚间,DeepSeek 突然发布 V4 Pro 大语言模型正式版,命名为 DeepSeek - V4 - Pro - 0813,官方未调升 API 使用价格。有用户称调用的 V4 Pro 思维链风格有变,跑分显示其 Agent 评测表现可媲美顶级模型,还撞车了马斯克的 Grok 4.6。
JoyInside 创新大赛现场,我看到 AI 硬件长出了灵魂
作者曾对多数AI硬件失望,认为其有硬件没灵魂。但在观猹和京东联合举办的JoyInside创新大赛上,20强产品让其改观。大赛基于京东JoyAI大模型,缩短产品上市周期,前三名产品各有亮点,还呈现场景垂直化和交互方式改变趋势。
面向 SGLang 的 Profile Analysis SKILL:3 张表定位 Kernel Fuse 和 Overlap 机会
文章介绍了面向SGLang的Profile Analysis SKILL,其工作流统一,输出3张表定位Kernel Fuse和Overlap机会,支持多种分析方式和模型。还给出Qwen/Qwen3.5 - 4B和openai/gpt - oss - 20b的分析结果,并表明该SKILL能节省token、缩短工期,作者厌恶Torch Compile。
阿里HappyHorse开启灰测,720P视频生成低至0.44元/秒
4月27日,阿里巴巴视频生成模型HappyHorse 1.0开启灰测,全球专业创作者和企业级客户可在官网和阿里云百炼平台注册使用,大众用户可在千问App体验。官网720P视频生成刊例价0.9元/秒,专业会员包月叠加限时折扣后低至0.44元/秒。
分享一个谷歌和百度都优化得不错的网站
一个域名注册于2008年的网站,2020年5月才真正启动,却在谷歌和百度的优化上做得风生水起。它的流量主要来自搜索引擎,谷歌收录484万条,百度收录193万条。这个网站通过子域名提升权重,并巧妙地使用分类而非重复关键词来优化内容,使其在搜索结果中排名靠前。
合理利用应用商店ASO优化工具,提升APP产品权重和转化率(工具篇)
应用商店优化(ASO)是提升App曝光和下载转化率的关键过程,涉及榜单排名、关键词搜索、转化率及其他展位优化。图标、截图、宣传文本、关键词设置等都是影响用户感知和下载决策的重要因素。
右兔短视频去水印工具正式上线!
右兔去水印工具,一键解析全网短视频,无需广告,免费下载,支持高清原画质。