「质量 - 延迟权衡」共找到 875 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
给文档质量"打分"：DIQA-5000 数据集与融合版面语义的 DocIQ 质量评估模型
文档图像质量评估（DIQA）是评判‘增强算法有没有把图变好’的关键工具。过去研究多围绕自然图像，缺文档专用数据集。本文提出DIQA - 5000数据集和DocIQ模型，补齐缺口。
打破数据质量鸿沟！清华腾讯Bee项目发布1500万高质量数据集，刷新MLLM全栈开源SOTA
全开源多模态大模型性能被闭源和半开源模型“卡脖子”，根源在于数据质量。清华与腾讯混元团队推出Bee项目，有三大核心贡献，产出的Bee - 8B模型表现领先，证明保证数据质量比堆量更有效。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
本地可运行的高质量的文本转语音模型
介绍Kyutai的Pocket TTS，一款轻量级文本转语音应用，可在CPU高效运行，模型小且低延迟，支持Python API和CLI，能语音克隆，还可在浏览器试用，目前仅支持英语，也有社区浏览器端实现。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
庞若鸣还有苹果论文？改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间，其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题，提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程，提升模型性能。
微软发布了 TypeScript 5.9，延迟导入并增强了开发者体验
微软发布 TypeScript 5.9，带来开发者体验改进、新特性和性能优化，如支持延迟导入、改进默认项目设置、引入新模块选项等，也有性能升级，还透露未来版本计划。
TEN VAD 开源：低延迟、高准确率，提升「语音 Agent」上限就靠它!
TEN-VAD是专为实时流式语音场景优化的开源模型，能解决语音交互中常见问题。它轻量级、跨平台、高性能、低延迟，获大佬背书，在多场景是必选组件，是语音交互里易被忽略却难替代的一环。
干掉延迟！12G显存就能实现实时AI换脸直播，开源免费。
推荐开源项目PersonaLive，它是基于自回归流式扩散技术的实时人像动画生成框架。能平衡画质与低延迟，用一张照片在普通显卡实现数字分身实时驱动，有低显存、无限时长等特点。