开源动态7

俞星凯：1200行代码复刻vLLM并反超

量子位2025-06-13

AI 摘要

DeepSeek研究员俞星凯推出Nano - vLLM，用不到1200行代码复刻vLLM。在RTX 4070测试中略逊于vLLM，在H800硬件上反超，具备快速推理、代码简洁等特点。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Token压缩率飙升60% 大模型分词革新

当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。

本文编译自Pi团队播客访谈，Pi迎来1.0大更新，推出全新长时持久Agent框架Pi Durable，正式接入此前骂了一年的MCP协议，深度讨论AI编程能力边界与未来方向。

本文报道Linux之父Linus Torvalds在Linux官方内核仓库新增带LLM后缀的分支，他指导Claude Code参与内核内存管理模块的代码编写、测试和文档撰写，优化后多线程读取性能暴涨3倍，还借助AI梳理十年前的旧代码，挖出3个隐藏多年的Bug，打破了Linus此前对AI的质疑。

清华大学自动化系研究者针对大模型上下文学习（ICL）中示例选择成本高、效果不佳的问题，提出Jev-LDE方法，仅对初始检索示例做一次局部编辑，即可大幅提升1-shot准确率，推理成本增量很低。