搜索：上下文学习 - AI Reading Hub

「上下文学习」共找到 1963 篇相关文章

用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA

如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。

具身智能发展中样本效率成瓶颈，传统无模型强化学习依赖盲目试错。清华与加州伯克利团队提出BOOM框架，通过自举循环机制解决在线规划与策略学习矛盾，实验表现卓越，为具身智能落地提供支撑。

来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。

Anthropic宣布Claude Sonnet 4支持100万Token上下文窗口，容量是之前5倍。长上下文支持已向部分客户公测，将推给更多用户。该功能已在亚马逊Bedrock公测，也将登陆Google Cloud。还介绍了用例、定价及早期用户好评。

中国科学技术大学和上海人工智能实验室等团队，在Qwen2.5和Llama 3模型开展研究，揭示强化学习后训练的Scaling Law，提出幂律公式预测模型学习效率与训练轨迹，成果被ACL 2026接收。

AI正从语言模型走向智能体，强化学习成关键技术，但训练面临困难。2025年6月九章云极发布全球首个工业级强化学习云平台AgentiCTRL，实现系统级重构，其智能基础设施战略布局领先，具产业赋能优势。

ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。

强化学习是当今LLM重要技术，Unsloth团队发布教程，从吃豆人谈起，介绍RLHF、PPO到GRPO，分享用GRPO训练推理模型技巧，涵盖相关概念、训练方法及奖励函数设计等内容。

OpenAI为ChatGPT上线苏格拉底「学习模式」，针对大学生，以交互式提示、分步解答等功能引导学习，可应对复杂学科难题。一经推出便受网友热捧，有人预言将端掉一波教育类AI。

前网易副总裁汪源在2026奇点智能产品大会分享，指出智能体系统瓶颈正从模型能力、Harness工程，转移到上下文。他还介绍了做好上下文基础设施的要点，以及推出的新内容格式KRL。