推荐文章7

图解vllm v1：KVCacheManager与Prefix Caching

GiantPandaLLM2025-06-18

AI 摘要

文章围绕vllm v1，指出其调度不再区分prefill和decode，从token粒度处理请求。详细介绍Prefix Caching节省显存原理，以及KVCacheManager管理机制，还说明了block分配释放策略与流程。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

猛猿：图解Vllm V1调度器策略

本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。

本文是《麻省理工科技评论》中国发布的AI虚拟细胞（AIVC）调研报告介绍，梳理AIVC的技术框架、产业生态、发展趋势与应用前景，指出AIVC有望革新药物研发流程，压缩研发成本与周期。

本文是五源资本合伙人孟醒2026年8月赴硅谷考察AI产业后整理的一手观察，记录了硅谷一线从业者对中美AI格局的最新判断，拆解不同AI方向的中美差距，分析Neo lab、数据产业的最新行业变化，信息密度高、参考价值强。

本文是DeepSeek Harness的保姆级教程，从零讲解这款开源AI Agent运行框架的核心特性、安装部署、功能模式、Token消耗机制，横向对比主流竞品给出选型建议，新手也可快速上手。