「文本压缩」共找到 669 篇相关文章
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
压缩之外，Visual Tokenizer 也要理解世界？
MiniMax和华中科技大学发布视觉tokenizer新研究VTP，引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示，提出在预训练中引入语义理解，还发现Scaling Law现象，虽有争议但为研究提供新视角。
演讲生成黑科技，PresentAgent从文本到演讲视频
联合团队提出 PresentAgent，能将长篇文档转化为带解说演示视频。采用模块化流程，还引入 PresentEval 评估框架。实验显示其接近人类表现，优于现有方案，展现了多模态智能体潜力。
SQL玩转多模态AI，轻松搞定图片+文本混合搜索
在AI驱动智能商业时代，传统搜索系统难满足需求，AI检索系统又面临数据搬运和工具链割裂难题。本文提出用原生SQL实现多模态智能检索，基于PolarDB融合AI引擎，通过SQL调用服务，无需迁移数据与搭建独立服务。
ICML 2025 | 如何在合成文本数据时避免模型崩溃？
随着生成式AI发展，合成数据成大模型训练重要部分，但可能引发“模型崩溃”。ICML 2025会议上，上交大等团队剖析此问题，提出Token - Level Editing策略，避免模型崩溃，实验验证了其有效性。
高精度全身操控！从文本输入生成全身操控物体的动作
物体操控的整体动作生成是具广泛应用但极具挑战的任务，核心挑战在于手部与身体协调及关节式物体操控精度。香港大学提出协同扩散噪声优化框架CoDA，优化三个专用扩散模型，还采用BPS统一表示提高交互精度。
Hugging Face 发布 FineTranslations：一个万亿级的多语言平行文本数据集
Hugging Face 发布 FineTranslations，这是含超 1 万亿 Token 的多语言数据集，用于提升机器翻译质量。它源于 FineWeb2，用 Gemma3 27B 翻译创建，数据生成流程可复现公开，还能用在其他任务。
KDD 2025 Best Paper Runner-Up | EI-BERT：超紧凑语言模型压缩框架
香港城市大学王茂林等提出 EI - BERT 框架，解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化，实现 99.5% 压缩率。在多任务中表现出色，已在支付宝大规模应用。
从视觉压缩，到视觉记忆：MonkeyOCRv2以重建保留文档页面证据
文档视觉编码器对LLM理解和推理很重要。MonkeyOCRv2提出‘重建即文档视觉记忆’，通过多组实验验证其有效性，还发布MonkeyDoc v2数据集，推动公平比较的研究文化。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。