搜索：长上下文模型

「长上下文模型」共找到 8183 篇相关文章

ICML 2025 | M+框架来了，增加LLM隐空间记忆，不再受上下文窗口限制

本文提出M+长期隐空间记忆扩展框架，在MemoryLLM之上，将8B级模型有效记忆跨度从不到20k提升到160k+，显存占用不变。它解决了现有记忆模型冗余、冲突难解等问题，为下一代语言模型提供支撑。

传统大模型推理面临长链条深度思考与低时延反馈的矛盾，华为盘古团队提出盘古Embedded模型。基于昇腾NPU，其采用双系统认知架构，集成“快思考”与“慢思考”双推理模式，实现推理效率与精度协同提升。

卡帕西发布“大模型议会”web app，系统通过OpenRouter调起多模型开会商议，各模型答题、互评、排序，由主席模型给出统一答案。可对比模型差异，模型自评与人类主观或不同，多模型集成或成突破点。

MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。

吴恩达指出，AI创业真机遇不在大模型，而在智能体。智能体市场潜力大，创业者可发挥其专业化优势。还建议忽略AGI，用AI解决日常问题，关注小模型边缘计算、军民两用场景，构建可信AI应用。

智谱AI发布GLM - 4.6V系列模型，是首个支持工具调用的视觉模型。作者对其进行7个场景测试，如识别鸟类、分析赶海地点等，展现出不错性能。该模型速度快、开源，有优势也有小问题，适合开发者和普通用户。

多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。

实测MiniMax新发布的M2.7模型，解决了Agent的笨拙感，是国内最强的Cowork Agent模型。它技能命中率高，能自进化，对办公场景做了优化，还能解决生产效率问题，加强了人设保持能力。

5月20日，阿里发布新一代千问旗舰模型Qwen3.7 - Max。近三月千问迭代三次，Qwen3.7 - Max在多测评中表现优异，位列国产模型第一。它强化编程等能力，阿里还通过MaaS等连接各环节，布局AI基础设施。

香港大学NLP团队联合字节跳动Seed、复旦大学发布Polaris强化学习训练配方，让4B模型数学推理能力超商业大模型，且Polaris-4B可在消费级显卡部署，相关内容已全部开源。