开源动态7
DeepSeek作者开源轻量级vLLM学推理
PaperAgent
AI 摘要
DeepSeek R1/V3作者俞星凯开源Nano - vLLM,它推理快、代码可读且有优化套件,还给出RTX 4070和Qwen3 - 0.6B等基准测试配置,方便大家了解大模型推理技术。
阅读原文 · PaperAgent
DeepSeek R1/V3作者开源轻量级vLLM,1200行代码读懂大模型推理技术!
DeepSeek R1/V3作者俞星凯开源轻量级vLLM——Nano - vLLM。它有快速离线推理、代码可读、含优化套件等特性,还给出了RTX 4070等硬件和Qwen3 - 0.6B模型的基准测试配置。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态8
DeepSeek 5个开源项目超火!
几天前,DeepSeek发布开源智能体框架`DeepSeek Harness`,热度极高。围绕它社区长出丰富高星项目,本文整理了5个,如核心项目`DeepSeek Harness`、桌面客户端、Web UI插件、终端交互插件及插件导航手册。
开源先锋
开源动态7
scroll - world:解锁官网滚动沉浸新玩法
许多官网滚动特效不佳,scroll - world 让滚动驱动无切镜的品牌旅程。它通过生成镜头链、对齐接缝实现沉浸体验,还给出适用场景和接入方式,虽非零成本但复用了经验。
小华同学ai
新闻资讯7
美团与OpenClaw之父谈AI转型与开源项目
今年2 - 3月美团开展“养虾运动”,引入OpenClaw,日耗上千万元还干扰经营。美团CEO王莆中复盘称这是AI转型第一阶段。OpenClaw之父Peter也复盘爆火8个月经历,分享经验与感悟。
InfoQ
开源动态7
macOS Harness:让 AI 操作整台 Mac
macOS Harness 是 browser - use 团队开源项目,目标是让 LLM 用持久化 Python 进程完成 Mac 上几乎所有任务。它仅提供六个原始操作,模型用其操作应用,还能在运行中补全缺失部分。项目有诸多优势,目前仅支持 macOS。
AI工程化