「文本token」共找到 1062 篇相关文章
首创像素空间推理，7B模型领先GPT-4o，让VLM能像人类一样「眼脑并用」
当前主流视觉语言模型（VLM）依赖文本token间接翻译视觉信息，缺乏直接视觉操作能力。滑铁卢大学等团队提出「像素空间推理」范式，让VLM能像人类一样「眼脑并用」，在四大视觉推理基准测试中，7B的Pixel - Reasoner表现碾压GPT - 4o等。
DeepSeek开源新模型，提出上下文光学压缩：LLM的新记忆方式
DeepSeek开源OCR模型，探索用多少视觉信息让LLM理解文本。实验表明1000字文档约需100个vision tokens，压缩比10倍、准确率97%。还提出模拟人类遗忘等想法，有多种应用场景，且完全开源。
这家 AI Lab 宣布所有模型无限期免费后，我顺手做了个图片版番茄钟
全球排名前十的 AI Lab，Agnes 宣布旗下核心全模态模型 API 无限期免费开放，包括文本、图片、视频。还新增百万 Token 上下文和 4K 图片生成功能。作者用其做了图片版番茄钟，官方也公开开发进度。
OpenVision 2：大道至简的生成式预训练视觉编码器
多模态大模型浪潮中，视觉模块是关键。此前OpenVision训练管线复杂，成本高。研究者提出OpenVision 2，移除文本编码器与对比学习，引入随机丢弃视觉token技巧，性能佳且效率高，挑战了对比学习范式。
EMNLP 2025 | 动态压缩CoT推理新方法LightThinker来了
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理产生大量中间步骤和文本，拖慢计算速度、增加资源压力。研究者提出LightThinker，模仿人类思考模式，动态压缩推理步骤，削减tokens数量，降低成本。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
分享2个模型省钱大法
文章分享两个大模型API省钱技巧。一是文本转截图，适用于输入长输出短、费用花在输入token的任务；二是音频加速识别，OpenAI语音识别模型Whisper按音频时长收费，加速音频可省钱，还可包装成API服务盈利。
合理利用应用商店ASO优化工具，提升APP产品权重和转化率（工具篇）
应用商店优化（ASO）是提升App曝光和下载转化率的关键过程，涉及榜单排名、关键词搜索、转化率及其他展位优化。图标、截图、宣传文本、关键词设置等都是影响用户感知和下载决策的重要因素。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。