「上下文学习」共找到 1973 篇相关文章
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
单卡可跑18万原子！分子模拟的“规模焦虑”该终结了
至知创新研究院UBio团队发布的UBio-MolFM v1.5，是可进行分子动力学模拟的机器学习原子间势函数。它在精度和规模上有提升，实测中表现优于经典力场，架构、数据和训练都有创新，误差降45%，速度提8倍，现已开源。
Karpathy的软件3.0：Agent的原生世界
OpenAI联合创始人Andrej Karpathy在Sequoia Ascent大会上表示，AI Agent正改变软件与工作模式。编程基本单位从写代码变为给Agent下达指令，软件3.0以上下文窗口为程序，LLM为解释器。他还提出理解AI能力分布的框架，给出创业建议。
从“暴力烧Token”到“系统工程”：OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径，指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题；工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦，通过多技术实现性价比，还介绍了底层基石及其实测表现。
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
AI真有希望考清北了！豆包1.6多模态推理发威，闯关数理化带图大题
火山引擎原动力大会发布豆包大模型1.6，它是国内首款多模态SOTA模型，支持256k上下文长度。实测中它解答高考数理化带图大题表现出色，还具备图像识别、视频理解、GUI操作等能力。此外，火山引擎还推出系列工具和平台助力企业。
20亿美金苏度科技具身首秀即大招！0真机数据，zero-shot，跑出98%首次抓取成功率
苏度科技发布软硬件全栈自研的机器人系统R1，采用世界模型与强化学习一体化设计，在不使用真机数据的前提下，实现关键任务近100%的Zero-shot成功率。苏度团队通过重新定义数据范式，解决了具身智能发展的核心瓶颈。
巅峰对决：最强模型GPT-5.3-Codex与Claude Opus 4.6同时发布
OpenAI和Anthropic同时发布旗舰级模型GPT - 5.3 - Codex与Claude Opus 4.6。前者有网络攻防与自主代码修复能力，被评定为网络安全高风险；后者用自适应思考与上下文压缩处理长程任务，在多领域表现出色，但二者也都存在安全风险。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。