「长文本建模」共找到 1205 篇相关文章
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
Mistral 发布 OCR 3，提升了手写及结构化文档识别的准确率
Mistral 发布 OCR 3，在多种文档类型上精度更高，超越前一代产品。能提取文本、识别图像并保留文档结构，输出 Markdown 格式。早期用户认可其性能和多语言支持，生产部署扩展快，价格有优势。
两个Ilya的宿命轮回：老黄10亿美金开启赛博修仙！
OpenAI花1亿美金买Torch做「数据转接头」，想让ChatGPT成全科医生；Claude用超长文本窗口处理医学文献和数据。而NVIDIA投10亿与药企建实验室，用BioNeMo重写生命，开启药物生成新纪元。
刚刚开源就爆火，轻量快速，GB 大文件都秒开！
文章介绍刚开源就爆火的文本编辑器Fresh，它基于Rust语言，目标轻量、快速、功能强大，支持多平台。有上手0门槛、轻量快速等特性，还给出多平台安装方式和基本使用方法，值得开发者尝试。
融合风控知识的大模型体系建设与应用实践
腾讯算法专家欧阳天雄在AICon大会分享《大模型驱动下的智能风控落地实践》，介绍腾讯天御融合海量风控知识构建金融风控大模型，解决传统风控模型难题，还展示构建技术、工程实践及落地案例，为金融风控提供新思路。
字节Seed团队发布循环语言模型Ouro，在预训练阶段直接「思考」，Bengio署名
现代LLM依赖显式文本生成训练“思考”，未充分挖掘预训练数据潜力。字节Seed团队联合多家机构推出循环语言模型Ouro，将推理能力构建到预训练阶段，实现参数效率提升，还降低了有害性。
Embedding黑箱成为历史！这个新框架让模型“先解释，再学Embedding”
来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。
DeepSeek开源新模型，提出上下文光学压缩：LLM的新记忆方式
DeepSeek开源OCR模型，探索用多少视觉信息让LLM理解文本。实验表明1000字文档约需100个vision tokens，压缩比10倍、准确率97%。还提出模拟人类遗忘等想法，有多种应用场景，且完全开源。
Code2Video：代码驱动、智能体协同、精准可控的教学视频生成
新加坡国立大学 ShowLab 团队提出 Code2Video，一种基于代码驱动的视频生成新范式。它以可执行代码为媒介，结合三智能体协同框架，解决了现有文生视频方法在教育场景的不足，在美学和教学效果指标上有明显提升。
基于离散扩散模型的高效音频修复方法
数字音频时代音频易损坏丢失，传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法，经MusicNet数据集实验验证，该方法在各间隙长度上表现优异。