「长上下文问题」共找到 4079 篇相关文章
字节Seed提出序贯策略优化方法，突破同传“质量-延迟”权衡问题
AI字幕质量和延迟难平衡是业界老问题。香港中文大学、字节跳动Seed和斯坦福大学研究团队提出序贯策略优化框架SeqPO - SiMT，在70亿参数规模实现SOTA，翻译质量媲美Qwen - 2.5 - 7B离线水平。
GPT-5.4据传下周上线！200万上下文窗口+持久化状态，告别频繁遗忘
OpenAI工程师在GitHub仓库意外泄露GPT - 5.4，相关信息流传后被撤回。据传下周上线，其有200万Tokens上下文窗口与持久记忆，支持全分辨率视觉直读，将引发硬件内存之战。
内存直降50%，token需求少56%！用视觉方式处理长文本
在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。
多模态后训练反常识：长思维链SFT和RL的协同困境
华为与香港科大研究发现，多模态视觉语言模型中，长思维链SFT与RL组合难协同增益。研究引入难度分类方法构建数据集，分析各方法表现及组合策略困境，还给出实验发现与未来研究方向。
GPT-5数字母依然翻车！马库斯：泛化问题仍未解决，Scaling无法实现AGI
杜克大学教授让GPT - 5数blueberry里的b，结果GPT - 5多次答错。著名学者马库斯整理其各种bug，指出大模型泛化问题严重，认为Scaling无法实现AGI，转向神经符号AI才是途径。
Claude 这个更新，让模型能力提升10%+！
Claude开放100万上下文长度更新，实际可用空间接近8倍提升。数据显示，上下文越长Claude与其他模型差距越大。API取消溢价，还更新图片/PDF上限、将Adaptive Thinking转正式版。
Hugging Face开源顶级模型：双模式推理+128K上下文，最强3B
今天凌晨，Hugging Face开源顶级小参数模型SmolLM3，参数30亿，性能超同类。它有128k上下文窗口，支持6种语言、双推理模式。架构细节等全开放，联合创始人强烈推荐，称是3B领域SOTA。
面向长时语音与声音克隆的全模态开源万能聊天机器人MGM-Omni
文章介绍了全模态开源聊天机器人MGM - Omni，它基于MiniGemini，支持多模态输入输出，具备长语音理解、生成、流式生成、零样本语音克隆等特性，还给出安装、使用方法，展示评估结果。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
小红书RecSys 2025最佳论文提名背后：破解视频时长预测难题
小红书推荐算法团队论文《Multi-Granularity Distribution Modeling for Video Watch Time Prediction via Exponential-Gaussian Mixture Network》在 RecSys 2025 获最佳论文提名。该文剖析视频时长预测难题，提出 EGMN 模型，线下线上验证效果佳。