「长度压缩」共找到 279 篇相关文章
DeepSeek有点含蓄了，实测V3.1有进步，编程等个别场景硬刚GPT-5
DeepSeek悄悄更新V3.1，官方仅提及上下文长度拓展至128K。实测其代码能力与前端审美提升，逻辑推理也有进步，在编程等个别场景能硬刚GPT - 5，但处理复杂任务还有距离，更新不大却有进步且降价。
小红书hi lab首次开源文本大模型，训练资源不到Qwen2.5 72B 的四分之一
6月6日，小红书hi lab团队首次开源文本大模型dots.llm1，采用MIT许可证。该模型激活参数量140亿，总参数量1420亿，上下文长度32K。训练资源不到Qwen2.5 72B的四分之一，在多个测评中表现出色。
V-RAE：把「看懂视频」的能力带入生成，重新思考视频模型的潜空间
近日，新加坡国立大学 Minghui Guo 与牛津大学 Shengqiong Wu、Hao Fei 在论文中提出视频表征自编码器 V-RAE。它以冻结的视觉基础模型为编码器压缩视频特征，还引入轻量级模块聚合信息。经实验验证，其在视频生成和预测上性能出色。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
RAG技巧与底层代码剖析
文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。
5秒出4张2K大图！阿里提出2步生成方案，拉爆AI生图进度条
阿里智能引擎团队针对Qwen最新开源模型，将SOTA压缩水平从80 - 100步前向计算骤降至2步，速度提升40倍，5秒可出4张2K高清大图。已发布Checkpoint，集成到呜哩AI平台。文章还分析传统蒸馏方案问题并介绍团队改进策略。
AI真有希望考清北了！豆包1.6多模态推理发威，闯关数理化带图大题
火山引擎原动力大会发布豆包大模型1.6，它是国内首款多模态SOTA模型，支持256k上下文长度。实测中它解答高考数理化带图大题表现出色，还具备图像识别、视频理解、GUI操作等能力。此外，火山引擎还推出系列工具和平台助力企业。
巅峰对决：最强模型GPT-5.3-Codex与Claude Opus 4.6同时发布
OpenAI和Anthropic同时发布旗舰级模型GPT - 5.3 - Codex与Claude Opus 4.6。前者有网络攻防与自主代码修复能力，被评定为网络安全高风险；后者用自适应思考与上下文压缩处理长程任务，在多领域表现出色，但二者也都存在安全风险。