「LLM式视觉编码器」共找到 1608 篇相关文章
多模态扩散模型开始爆发，这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。
Karpathy实测Opus 5：读一段《魔戒》，10美元直出中土世界！
Andrej Karpathy 用 Opus 5 结合《指环王》开篇文字，花约 10 美元让其渲染 3D 游戏。Opus 5 两小时写出 5500 行代码生成 3D 世界，虽粗糙但证明 AI 强大。不过，LLM 无法高效审查自己工作，这是弱点。
刚刚，DeepSeek又探索新架构了，开源OCR 2
DeepSeek更新DeepSeek - OCR 2，引入DeepEncoder V2架构，实现视觉编码范式转变。模型和技术报告齐开源，在多项测试中表现出色，降低重复率，为全模态编码提供路径，但在报纸类文档识别有不足。
NextStep-1：一次在图像生成上自回归范式的探索
阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。
阿里SkillClaw：让 Agent 技能在真实使用中集体进化
当前LLM Agent依赖可复用技能完成任务，但技能部署后静态不变，改进仅停留在当前会话。阿里SkillClaw提出中心化进化架构，将多用户交互作为技能改进信号，通过Agentic Evolver更新技能，经夜间验证后部署。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
RAE+VAE? 预训练表征助力扩散模型Tokenizer，加速像素压缩到语义提取
近期，RAE 提出以「 冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE，结合 RAE 与 VAE，能加速模型收敛、提升生成质量，展示扩散模型 Tokenizer 演化方向。
面壁MiniCPM-V4.5新王炸！8B手机10FPS长视频秒懂，文档手写全能识别！
面壁上新最强端侧多模态模型MiniCPM-V 4.5，基于Qwen3 - 8B与SigLIP2 - 400M构建，总参数量8B。它视觉语言理解强、手机能跑，有高帧率视频理解等特点，还有多方面技术亮点。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。