搜索：长上下文语言模型

「长上下文语言模型」共找到 8146 篇相关文章

ICLR 2026 | 别再让大模型“想太多”了！最新研究揭示 LLM 推理效率的关键瓶颈

大语言模型推理计算成本失控，存在过度与思考不足问题。研究揭示推理失衡是根源，提出BAM模型及Plan - and - Budget框架，实验显示其能提升准确率与效率，转向‘推理价值’范式。

新加坡国立大学AI研究者Jinjie Ni团队预训练扩散语言模型（DLMs）与自回归（AR）模型，发现DLMs是超强数据学习者，数据潜力超AR 3倍，重训480次性能仍攀升，还剖析同期研究方法论缺陷。

文章围绕大语言模型后训练阶段的强化学习算法展开。介绍了OpenAI的RLHF、DeepSeek的GRPO，重点指出Qwen团队发现GRPO有稳定性问题，会致模型崩溃，进而提出新算法GSPO，实验显示其效率和可扩展性更佳。

第四届全国大模型智能生成大会（LMG 2025）11月1 - 3日在成都召开，预计超千人参会。11月3日的讲习班邀请四位青年专家，围绕AI基础设施、扩散语言模型等前沿议题，分享技术进展与实战经验。

清华大学李升波教授团队在NeurIPS 2025提出LLM - Filter通用滤波器，将状态估计融入大语言模型推理框架。它能解决传统方法泛化性差问题，在未见过系统中实现零样本状态估计，有望成基础模型。

上海交通大学李元祥教授等团队提出ITFormer架构，构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型，适配多种编码器和模型，在EngineMT-QA预训练后达SOTA水平，实现高效数据分析。

英伟达研究者提出新混合架构语言模型 Jet - Nemotron，在达 SOTA 全注意力模型精度时效率卓越，2B 版性能超 Qwen3 等，H100 GPU 上生成吞吐量最高加速 53.6 倍，基于 PostNAS 和 JetBlock 两大创新。

现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。

Andrej Karpathy 认同Shopify CEO关于「上下文工程」的观点。它指为大语言模型提供恰当信息和工具，比提示词工程更重要。文章介绍其概念、与提示词工程区别，及写入、筛选等落地策略。

6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。