「文本压缩」共找到 644 篇相关文章
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
蚂蚁多模态统一框架Ming-Omni：能看懂世界、会说话、还能画画
文章介绍蚂蚁多模态统一框架Ming - Omni，它可统一处理图像、文本等多模态数据。该框架解决了多模态训练中模态表示差异、收敛速度不一致等问题，采用分阶段预训练，能用于图像、音频生成及多模态交互。
“看懂”指令并做动作！Motion-R1结合COT让角色动起来
大语言模型为文本驱动动作生成带来新可能，但现有方法有局限。GigaAI提出Motion - R1框架，融合“思维链”机制，能分解指令、优化动作合成，虽有不足，但在测试中表现优于主流方法。
开源2天斩获3K标星！开源TTS新星Chatterbox盲测击败ElevenLabs！
文本转语音（TTS）技术发展快，但达顶尖水平仍有挑战。开源TTS新星Chatterbox，开源2天冲上GitHub热榜，星标超3K。它功能亮点多，安装简单，适用于多种场景，性能超ElevenLabs。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
给 AI 戴上六顶思考帽
作者探讨如何让 AI 长时间高质量输出，提出初版方案。后借助「六顶思考帽」思维法，用 Moxt 产品创建 6 个 AI 同事评审草稿，各帽给出反馈，AI 间通过文件协作，Moxt 有小问题但方向值得关注。
深度解析 OpenClaw 在 Prompt / Context / Harness 三个维度中的设计哲学与实践
文章从Prompt、Context和Harness三个维度解析OpenClaw设计思路。Prompt工程有动态组装与文件驱动特点；Context工程含可扩展技能、上下文压缩修剪及双层记忆管理；Harness工程为模型套“马具”，保障其可控运行。
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。
利用Loop语言模型扩展隐式推理 | 直播预约
当前大语言模型依赖显式文本生成推理，未充分利用预训练数据。将介绍最新工作Ouro，Loop语言模型家族，核心创新多，虽参数少却性能优，还会讨论其推理轨迹及模型Scaling新可能。