「vllm v1」共找到 2172 篇相关文章
实测DeepSeek V3.1，不止拓展上下文长度
文章实测了DeepSeek V3.1和V3，发现V3.1在编程、写作、翻译等方面有变化，如编程更全面、写作风格变文艺等。网友测试其在aider得分71.6%成非推理模型SOTA，但线上API有问题。
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录：4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录，详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程，公开4×B300 GPU实测吞吐数据，附复现代码与步骤
DeepSeek V3.1 把 R1 融了，一堆新活：<think>开关、动态搜索、新ToolCall ...
DeepSeek在Hugging Face悄悄发布V3.1版本，将对话和推理模型合并为混合推理模型。它有显式推理、内置搜索、简化工具调用等特性，Aider测试成绩佳且成本低，但也存在战术回避、幻觉率升高等问题。
DeepSeek V3.1 Base突袭上线！击败Claude 4编程爆表，全网在蹲R2和V4
昨晚，DeepSeek官方悄然上线全新V3.1版本，上下文长度拓展到128k，参数685B，支持多种精度格式。其编程能力突出，在Aider测试中霸榜，性能超越Claude Opus 4，还有成本低等优势。
字节发现 DeepSeek 的周期性弱点，我们实测了 V4.1，结果不太一样
本文报道字节Seed团队发现DeepSeek V4基础模型因分块KV压缩存在周期性相位敏感性弱点，作者复刻实验实测现役DeepSeek V4.1-Flash，讨论了长上下文评测的盲区，新版本弱点已明显减轻。
金山与华科发布多模态模型MonkeyOCR v1.5：文档解析能力超越PaddleOCR-VL，复杂表格解析首次突破90%
2025年6月以来多模态文档解析成前沿课题。MonkeyOCR v1.5是全新框架，在OmniDocBench v1.5等基准上全面突破，复杂表格等场景提升9.7%，采用两阶段解析管道和复杂表格处理方案。
文心X1.1发布！这三大能力突出，一手实测在此
百度深度思考模型文心X1.1升级上线，在事实性、指令遵循、智能体等能力显著提升，实测表现佳。WAVE SUMMIT 2025大会还发布开源模型ERNIE - 4.5 - 21B - A3B - Thinking等，飞桨框架也升级到v3.2。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
图解Vllm V1系列4：加载模型权重(load_model)
文章聚焦vllm加载模型权重的流程。从入口函数切入，详细分析DefaultModelLoader的工作步骤，包括初始化模型架构和实际加载权重，还给出各步骤代码及作用，为想操作load_model的人提供框架。
Midjourney正式推出 V1 视频模型：美学细节无敌
Midjourney推出视频生成模型V1，主打高性价比、易上手。采用“图像转视频”工作方式，有两种动画和运动幅度设置。入门价每月10美元，任务成本低，未来一月或调价格，目标是实现实时交互开放世界模拟系统。