「文本压缩」共找到 669 篇相关文章
探索文本压缩极限!C3纯文本压缩pipeline:20倍压缩解码准确率98%
DeepSeek团队的DeepSeek - OCR技术引发关注,研究者重新审视视觉压缩路径后提出C3技术。C3采用纯文本压缩管道,实验表明其压缩精度远超DeepSeek - OCR,还具独特遗忘模式,代码模型均已开源。
超越ZIP的无损压缩来了!华盛顿大学让大模型成为无损文本压缩器
华盛顿大学SyFI实验室提出LLMc,利用大型语言模型进行无损文本压缩。基准测试显示其压缩率优于传统工具,且项目已开源。不过,当前版本存在效率、吞吐量等问题,应用范围也主要在自然语言。
DeepSeek-OCR是「长文本理解」未来方向吗?中科院新基准给出答案
DeepSeek-OCR的视觉文本压缩技术降低长文本处理成本,中科院自动化所等团队推出VTCBench基准测试评估模型视觉认知,含三大任务及衍生版本,测试结果有‘U型曲线’,还评测多种尖端模型。
苹果LensVLM:长上下文压缩成图片,模型边看边「放大」
本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案,针对长上下文压缩易丢失关键信息的痛点,提出将长文本压缩为图像、模型按需展开细节阅读的新思路,相关研究已被NeurIPS 2026接收,公开了模型、代码与可体验Demo。
一图胜千言被实现了!DeepSeek-OCR用图片压缩文本,10倍压缩率
DeepSeek开源DeepSeek - OCR,用图片压缩文本达10倍压缩率且几乎不丢信息。它解决了以往视觉编码器的问题,架构清晰,数据丰富,性能测试亮眼,为解决大模型‘记性差’问题提供新思路。
LLM算力告急?把文本变图片,推理成本直接减半!
大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT:近乎无损 超越KIVI,内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高,限制模型批量处理能力。论文提出OTT方法,动态追踪异常令牌单独高精度保存,其余压缩。实验显示,它准确性高、效率好,不过在极短文本等场景有局限。
字节Seed实习生曝DeepSeek-V4技术缺陷:长文本检索陷入“周期性盲区”
本文报道字节跳动Seed团队联合多校研究者,发现DeepSeek-V4因分块KV缓存压缩设计存在长文本检索周期性盲区,深入拆解缺陷根源,曝光传统大模型长文本评测的盲区。
字节Seed实习生曝DeepSeek-V4技术缺陷:长文本检索陷入“周期性盲区”
字节Seed团队联合多校研究,发现DeepSeek-V4的分块KV缓存压缩架构存在长文本检索周期性盲区,不同Token位置检索准确率落差最高超40个百分点,揭露了传统长文本评测的盲区,DeepSeek已在V4.1改善但未完全消除缺陷。
LeCun团队揭示LLM语义压缩本质:极致统计压缩牺牲细节
图灵奖得主LeCun团队提出全新信息论框架,对比人类与LLM语义压缩策略。通过构建人类概念分类基准、选30+LLMs,发现LLM虽有语义组织能力,但难处理细粒度差异,侧重统计压缩,人类更重细节语境。