「笔记产品」共找到 1688 篇相关文章
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
OpenClaw构建自我迭代AI助手笔记
作者花3天体验OpenClaw，构建银行客户经理助手场景，验证通用智能体框架可用性。介绍Agent构建、迭代、交流及评估能力构建过程，对比OpenClaw与Claude Code、OpenViking，指出记忆系统问题，肯定专属智能体提升生产力的可行性。
编程 Agent 如何重塑工程、产品和设计
软件公司 EPD 目标是做出好软件，产出为代码。编程 Agent 让写代码变简单，使 EPD 角色定位改变，如 PRD 传统流程终结、瓶颈转向评审、通才更有价值等，各角色需适应新变化。
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。
sglang 源码学习笔记（二）- backend & forward 过程
本文深入解析sglang forward核心实现全流程，介绍了forward传递过程、AttentionBackend数据结构，以flashinfer为例展开分析，还说明了cudaGraphRunner初始化、Capture、Replay过程，助读者理解代码。
TRAE Work 上线 Design 模式：产品经理还需要 Figma 吗？
TRAE Work 上线 Design 模式，可将一句话描述变成可编辑设计稿，还能将设计稿转代码，在同一平台完成从需求到代码的链路。作者测试后发现其效率大幅提升，并分析了该模式与其他工具的区别及 AI 设计趋势。
独家丨滴滴悄咪咪上线了个「AI 图寻」产品
2013 年 GeoGuessr 地理猜测游戏走红，衍生出「图寻」玩法。2024 年 AI 让“猜地点”能力大增。今年滴滴悄悄上线 AI 图寻产品「在哪儿问问」，具实用工具属性，但 AI 识图在冷门场景表现欠佳。
腾讯把这个 AI 产品做活了：两分钟一次按快门
作者分享使用腾讯会议AI纪要的体验，它每两分钟自动记录会议要点，还能捕捉气氛意图。会后可一键送进腾讯元宝追问，适配多样场景。此外，腾讯会议还有录制、语音转文字等功能，音效也有提升。
好奇心之旅：Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。