「视觉-文本压缩」共找到 1202 篇相关文章
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
苹果在WWDC提到的本地模型，这家公司把它提速了220倍
苹果在WWDC开放本地语言模型API，让iPhone等有了“AI大脑”，但开发者面临模型运行慢问题。国产团队面壁智能发布MiniCPM 4.0，端侧处理长文本提速惊人，从多层面创新实现，还补上推理框架缺口。
大模型能“原地”改参数了！字节Seed&北大新论文：测试时推理无需加层重训练
字节Seed和北大研究团队提出In - Place TTT方案，让大模型能“原地改参数”。它复用Transformer的MLP模块，解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题，实验证明可提升模型长文本任务表现。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
ChatGPT：再见「破折号」
常使用AI的人会发现，模型爱用破折号，成了检测AI文本的土办法。OpenAI CEO Sam Altman称已解决ChatGPT爱用破折号问题，按指令它会照做，但评论区有人反馈破折号仍存在。
CoT 之后，CoF 如何让帧间逻辑从「隐式对齐」变成「显式思考」？
CoT 虽提升语言模型推理能力，但在 C 端场景有局限，且被质疑并非真实推理。视觉领域提出 CoF 概念，Google DeepMind 团队引入理论，让视频模型通过帧链推理提升帧间一致性，还具强大泛化能力。
10 人 1600 万美金 ARR，华人团队 OpenArt 用了这 11 个 AI 技术栈
华人团队 OpenArt 10 人团队做到 1600 万美金 ARR，CEO Coco Mao 分享经验。包括找准定位，聚焦三类核心用户；用程序化 SEO 实现增长；战略转型做视觉故事讲述；解决角色一致性问题，还介绍多方面技术栈。
智普入局OCR! GLM-OCR 0.9B 也杀进来了~
OCR是上古任务，如今大模型纷纷入局，用1B以下小参数模型搅动解析市场。GLM-OCR能做文本识别等，采用三级架构，有两阶段流水线及训练机制创新，在多场景表现出色。
Apple发布新SOTA Manzano：混合Tokenizer破解多模态统一难题，理解与生成双翼齐飞
多模态AI前景广，但现有模型在理解和生成任务上存在性能冲突。苹果提出Manzano模型，用混合视觉标记器降低任务冲突，结构简单可扩展，在多基准测试达SoTA水平，还展示图像编辑潜力。
UIUC提出隐式监督新范式：无需标注/RM即可全面提升多模态Reasoning的感知能力
大型多模态模型在复杂多模态推理中面临挑战，67%错误源于视觉感知缺陷。为此，UIUC提出PAPO，通过隐式感知损失提升模型感知能力，无需额外标注，在多模态基准上表现优异，还解决了KL黑客问题。