搜索：长上下文困境

「长上下文困境」共找到 1349 篇相关文章

DeepSeek-OCR降本增效，10×暴力压缩还能读得清

Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。

DeepSeek开源3B参数的新OCR模型，重新思考AI处理长文本方式，用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器，实验效果好，成本降低，还解决了一些算法和工程问题。

人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。

国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。

9月25日，生数科技全球上线新一代图生视频大模型Vidu Q2，实现从“视频生成”到“演技生成”跨越。它在表情生成、运镜、语义理解、时长选择等方面有提升，分闪电和大片模式，已在多端上线。

华为全联接大会上，轮值董事长徐直军带来全球最强算力超节点和集群。公布昇腾、鲲鹏芯片未来2年演进规划，还开创灵衢互联协议。虽单芯片受限，但集群层面有望实现超越。

前百川智能研究小组负责人阎栋分享大语言模型临床推理。回顾推理技术发展，以Deepseek为例；介绍百川在医疗推理实践，模型达三甲主治水平；还谈及大模型训练困境及与人类智能差异。

具身智能领域数据难题待解，极佳科技朱政投身世界模型研究。他认为世界模型短期内是‘驯化’VLA的容器，长期或与VLA融合。其团队成果显著，还将探索多维度建模与数据配比优化。

实时语音转文字和说话人识别需求渐长，但传统工具多依赖云端，有隐私与延迟问题。GitHub上的开源项目WhisperLiveKit是本地化语音识别方案，速度快、延迟低、支持说话人识别，适合会议等场景。

文章围绕大语言模型后训练阶段的强化学习算法展开。介绍了OpenAI的RLHF、DeepSeek的GRPO，重点指出Qwen团队发现GRPO有稳定性问题，会致模型崩溃，进而提出新算法GSPO，实验显示其效率和可扩展性更佳。