「吞吐量」共找到 46 篇相关文章
产品应用7
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
GitHubStore
开源动态8
不增加人手，项目效率飙升45%，OpenAI公开了一套AI实战经验
OpenAI公开基于大语言模型和专属Skill包的开源仓库维护方法论，将重复工作自动化，使项目代码合并吞吐量飙升45%。该方法由AGENTS.md、Skill包和GitHub Actions构成，还涉及任务分配、验证策略等。
AIGC开放社区
开源动态8
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。
Hugging Face
开源动态8
突破视觉仿真算力瓶颈！新一代具身智能仿真框架开源：高吞吐并行高保真渲染助力规模化训练
具身人工智能向以视觉为中心转型，但面临“看得真”和“训得快”难题。清华大学智能产业研究院等提出GS - Playground通用多模态仿真框架，融合高吞吐量并行物理仿真与高保真视觉渲染，成果被RSS 2026录用，将开源。
量子位
推荐文章7
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
AI前线
开源动态8
老黄杀入OpenClaw战场！最强开源「龙虾」模型直逼Opus 4.6
英伟达推出新一代开源模型Nemotron 3 Super，专为大规模AI智能体打造，有1200亿参数，推理快、吞吐量高，性能直逼Claude Opus 4.6等。它解决了Agent应用的难题，还开源了相关数据和训练方法。此外，英伟达还在打造NemoClaw开源AI智能体平台。
新智元