搜索：长上下文建模

「长上下文建模」共找到 1389 篇相关文章

实测最新开源的DeepSeek-OCR后，我有些不一样的看法，有些话可能只有我敢说

实测最新开源的DeepSeek - OCR，它并非传统OCR，不适用于传统场景。其最大意义是解决大模型上下文长度问题，通过文字图片压缩解压提高处理速度。模型功能多样，是让AI看图思考的新思路。

超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。

文章从逆强化学习（IRL）视角回顾LLM对齐进展。先介绍强化学习基础及挑战，将LLM生成过程化为MDP，探讨无奖励函数的MDP，说明需神经奖励模型，还阐述通过奖励建模实现IRL及多种优化方法。

北京智源研究院联合中科院自动化所提出 UniVLA 全新 VLA 模型架构，基于全离散、自回归机制建模多模态信号，后训练引入世界模型。它刷新多项基准纪录，在真机操控和自动驾驶有潜力，为多模态感知决策融合带来新思路。

周六凌晨Claude Opus 5全量上线，在所有Claude产品里可用。它有100万上下文，知识最新到2026年5月。跑分显示其在很多领域逼近Fable 5，价格仅为一半。它和Fable 5各有优势，还带来Claude Code使用的变化。

胡渊鸣创立的 Meshy AI 爆火欧美，其产品 Meshy 带来 3D 建模效率革命。新模型 Meshy 6 精度高、可用性强，采用“3D 原生”路线。它还理顺生产流程，获大厂青睐，未来在技术、产品形态和游戏领域均有布局。

文章指出大语言模型驱动的Agent系统存在核心矛盾，常见上下文加载方案有局限，缺乏灵活机制。介绍了AgentScope发布的Skill机制及渐进式披露策略，还讲了其在Java中的实现，最后分析了适用与不适用场景。

世界首个支持直播推流的「实时」扩散AI视频模型MirageLSD诞生，大神Karpathy亲自站台。它能理解真实视频后同步生成AI视频，实现零延迟、无限时长、每秒24帧不卡顿，给视频娱乐和直播互动带来丰富想象。

昆仑万维开源的SkyReels-V3，通过统一多模态上下文学习框架，实现参考图像生成视频、视频持续扩展及音频驱动虚拟数字人功能，在视觉质量与指令跟随性上逼近闭源顶尖水平，为开源社区提供强大研究基座。

谷歌DeepMind推出AI模型AlphaGenome，可预测DNA序列微小变化对基因调控的影响，已向非商业研究领域开放。它能处理长序列、输出高分辨率结果，有四大优势，在多领域有研究潜力，但也存在局限。