「文章配图」共找到 1489 篇相关文章
GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现
文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率,rank1代码用cccl,带宽利用率超80%;histogram算子瓶颈在atomic冲突等,rank1也多用cccl,还给出rank2代码,最后提及任务中Hack行为及代码提交方式。
百万人围观,「上下文图谱」火了,万亿美元新机遇?
本文围绕智能体对记录系统的影响展开讨论。有人认为智能体将摧毁记录系统,也有人反驳,指出其会提高记录系统标准。文章重点介绍上下文图谱概念,它是决策轨迹的长期积累,有望成万亿级新机遇。同时分析传统厂商构建难题及创业公司路径。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA,它能高效传输多维数组数据。文中展示用TMA对2D数组操作,如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法,最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读,详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案,包括Prefill和Decode阶段的优化、通信优化、观测诊断等,并给出了评测结果。
面向 SGLang 的 Profile Analysis SKILL:3 张表定位 Kernel Fuse 和 Overlap 机会
文章介绍了面向SGLang的Profile Analysis SKILL,其工作流统一,输出3张表定位Kernel Fuse和Overlap机会,支持多种分析方式和模型。还给出Qwen/Qwen3.5 - 4B和openai/gpt - oss - 20b的分析结果,并表明该SKILL能节省token、缩短工期,作者厌恶Torch Compile。
让推荐学会思考:用强化学习激活大模型的序列推理能力
文章指出推荐系统曾未紧密结合大模型能力,如今正靠近其训练范式。作者基于用户行为序列,用强化学习训练大模型理解序列关系,以预测用户下一个可能点击的资讯,并通过实验验证了该方法的可行性,还探讨了不同数据库中BM25算法的差异。
MCP for 可观测2.0,6个让MCP开发更高效的小妙招
文章介绍MCP这一开放协议,它能标准化AI模型与不同数据源和工具连接。分享配置MCP开发所需客户端、API等步骤,阐述阿里云可观测2.0融合MCP的实践及效果,还给出设计MCP Server的6个经验,最后展望了MCP应用场景和可观测2.0+AI未来。
扩大 LLM 能实现 AGI吗?
计算机科学家Stuart Russell提出继续扩大现有大型语言模型(LLM)不会导致通用人工智能(AGI)的实现。文章探讨了LLM与AGI的关系,介绍了Russell的四大AI发展预言,还呈现了网友对AI发展、AGI定义等方面的热议,指出LLM是通往更高级AI的基石而非终点。
豆包收费?GEO招标成标配?网信办4个月整治AI乱象如何对待?
文章分享三则AI新闻。一是豆包拟收费,揭示中国AI免费时代倒计时,分析收费原因、电商难先行因素及收费前景,还探讨AI广告形态;二是GEO招标成标配,显示其成企业标配,布局AI搜索流量正当时;三是网信办整治AI乱象,企业应自查、切割、重塑信任。