「墨问笔记」共找到 358 篇相关文章
520，遇见国产「新模王」Qwen3.7-Max！
在2026阿里云峰会上，阿里推出全新一代千问旗舰模型Qwen3.7 - Max。它在各类测评中成绩亮眼，性能直逼全球最强模型，还针对Agent优化。阿里全栈AI体系助力模型高频迭代，千问深耕开源社区，志在成为智能体时代基础设施。
CUTLASS 笔记 (2)：混合精度 GEMM kernel
文章介绍实现支持不同精度的 GEMM 算子，解析精度转换技术细节，还介绍根据 PTX 文档实现自定义 FP8 精度的 GEMM kernel，包括揭开 MMA Atom 面纱、分析 TV 与 MN Layout 等，最后完成精度验证。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
OpenClaw构建自我迭代AI助手笔记
作者花3天体验OpenClaw，构建银行客户经理助手场景，验证通用智能体框架可用性。介绍Agent构建、迭代、交流及评估能力构建过程，对比OpenClaw与Claude Code、OpenViking，指出记忆系统问题，肯定专属智能体提升生产力的可行性。
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。
苹果新论文发出惊人一问：What do your logits know?
苹果AI研究团队提交论文《你的logits知道些什么？（答案可能会让你惊讶！）》，触及大模型底层逻辑及苹果看重的用户隐私与数据安全。研究通过实验揭示模型信息留存状态，指出存在隐私泄露隐患。
AI Agent 十问十答，降低认知摩擦
文章以问答形式梳理技术术语与价值信息，介绍AI Agent定义、与传统软件区别、演进原因等，还阐述组件、原理、提升输出效果方法，探讨Workflow与LLM关系及单/多智能体系统相关内容。
sglang 源码学习笔记（二）- backend & forward 过程
本文深入解析sglang forward核心实现全流程，介绍了forward传递过程、AttentionBackend数据结构，以flashinfer为例展开分析，还说明了cudaGraphRunner初始化、Capture、Replay过程，助读者理解代码。