「kernel工程」共找到 759 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
Graph工程的尽头是，Ontology工程
15家机构联合发布图工程系统性综述，指出此前“XX工程”范式多优化单个智能体，而图工程能将智能提升到系统层面。论文还指出图工程语义局限，认为本体工程可作下一代系统智能语义地基。
上下文工程的崛起：提示工程已是过去式
大模型应用从简单问答转向复杂智能体系统，技术焦点正从提示工程转向上下文工程。上下文工程核心是为大模型提供恰当信息与工具，其重要性日益凸显，且与提示词工程有明显区别。
一文看懂“提示词” vs “提示词工程” vs “上下文工程”
文章区分了提示词、提示词工程和上下文工程的概念。提示词是给AI模型的输入文本；提示词工程是设计、测试、优化提示词的过程；上下文工程是为大模型构建动态上下文的学科，在AI Agent背景下诞生。
AI工程vs传统工程 —「道法术」中的变与不变
本文从“道、法、术”三个层面对比AI工程与传统软件工程异同，指出AI工程是在传统工程基础上，为应对大模型不确定性进行的架构升级，还结合淘宝AI搜索实践提出AI工程应对策略。
浅谈上下文工程｜从 Claude Code 、Manus 和 Kiro 看提示工程到上下文工程的转变
文章围绕上下文工程展开，介绍其概念、组成与提示工程区别，通过演示说明价值。还分析业界产品实践，如LangChain管理方法、Claude Code架构机制、Manus优化实践、Kiro开发模式，最后展望环境工程。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
Kernel Design Agent(KDA) 的B200 GPU Kernel 编程准则 Skill
文章围绕 Kernel Design Agent(KDA) 的 B200 GPU Kernel 编程展开，介绍目标平台、架构参数，阐述独有特性与编程要点，给出关键性能准则调整方向，详述 16 条准则及特殊 Kernel 类型优化策略和编写前检查清单。
「上下文工程」硅谷爆火，Karpathy亲自站台！提示工程瞬间失宠
继提示工程后，「上下文工程」在硅谷爆火，获Karpathy等大佬青睐。它是「全新的氛围编程」，是智能体成败关键。其范畴广，是科学也是艺术，为LLM构建上下文能解决定制任务。
工程知识引擎：Harness Engineering体系下的工程知识底座
现代软件开发中，AI编程智能体虽能写代码但难理解代码，缺乏工程约束与上下文支撑。为此构建工程知识引擎，整合多维数据源，有向量检索等六大能力，经评估可提升智能体效率与代码质量。