kernel工程」共找到 759 篇相关文章

推荐文章7

AI Agent 的工程化被低估了

文章指出 AI 发展中工程化作用被低估,将其分为产品工程和技术工程拆解构建 AI Agent 体系。产品工程涵盖需求建模、UI/UX 设计等模块;技术工程涉及架构模块化、流量控制等方面,还提及 Spring AI Alibaba 等工具。

阿里云开发者
开源动态7

上下文工程比提示词工程好 10 倍,比 vibe 编码好 100 倍!Karpathy 站台,堪称「全新的氛围编码」。

Andrej Karpathy 提出「上下文工程」概念,Shopify CEO 更青睐它。研究显示开发者因 AI 幻觉和错误多,不信任其生成代码。上下文工程可成 AI 辅助开发核心技能,文中还介绍了相关开源项目及使用方法。

AI进修生
推荐文章7

基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel

作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现,其中包含量化Kernel。文章关注此Kernel,介绍在B200上实现高性能Memory Bound Kernel的优化技术,如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。

GiantPandaLLM
新闻资讯7

教全世界与AI对话的男人,正式加入DeepMind!提示工程封神

全球最牛提示工程师Riley Goodside入职谷歌DeepMind,他曾凭和ChatGPT聊天年入百万。他认为ChatGPT发布是提示工程里程碑,提示工程可分上下文工程和提示词编程。

新智元
新闻资讯7

Andrej Karpathy:“ChatGPT套壳”的说法大错特错,提示词工程已过气

Andrej Karpathy力挺用“上下文工程”取代“提示词工程”,指出“提示词”过于简单,“上下文工程”更能揭示构建强大AI应用的本质。他强调“上下文工程”仅是构建大模型应用的一环,“ChatGPT套壳”说法大错特错。

AI寒武纪
推荐文章7

Karpathy:我不是要造新词,是「上下文工程」对 Agent 来说太重要了

Andrej Karpathy 认同Shopify CEO关于「上下文工程」的观点。它指为大语言模型提供恰当信息和工具,比提示词工程更重要。文章介绍其概念、与提示词工程区别,及写入、筛选等落地策略。

Founder Park
推荐文章8

Agent下半场!比Prompt更重要的是「上下文工程」,Anthropic首次系统阐述

Anthropic发文章阐述上下文工程,指出构建语言模型重点正从提示工程转向上下文工程,探讨了其与提示工程区别、重要性,给出实践指导原则、新趋势及应对长时程任务策略。

AI寒武纪
开源动态7

Meta Shuffling的MoE Grouped GEMM kernel benchmark

作者拷贝fbgemm开源的moe grouped gemm kernel,修复小bug后与SGLang的Grouped GEMM Triton Kernel对比,结果显示fbgemm在MoE模型上性能提升显著,可应用到SGLang的ep - moe的grouped gemm kernel中。

GiantPandaLLM
推荐文章7

AI的新技能不是提示词,而是上下文工程

最近,“上下文工程”在AI领域备受关注,人们讨论焦点正从“提示词工程”转移至此。构建有效AI智能体的秘诀在于提供的上下文质量,而非代码复杂程度,这正是上下文工程的意义。

宝玉AI
算法论文8

Anthropic:上下文工程在AI Agents的正确打开方式!

在‘提示工程’后,‘上下文工程’成焦点。它是提示工程延伸,因信息过多模型会‘失焦’,上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。

PaperAgent