搜索：上下文强化学习

「上下文强化学习」共找到 2077 篇相关文章

总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来

明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。

Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。

模力工场第 030 周 AI 应用榜揭晓，32 款应用上架，从社区声量高的应用中精选十款。涵盖创作、学习、智能自动化、心理疗愈等领域，上榜应用凸显 AI 从‘简单生成’向‘深度交互与高效执行’转变趋势。

该论文通过对比学习理清潜在输入特征与目标输出的关联性，提出输出驱动的输入特征构造方法。所构造特征在高维代理模型构建中增强效果显著，还可减少预测误差分布及不同模型收敛性和鲁棒性差异。

将大模型应用于特定领域需数据微调，但筛选高保真训练数据难度大、成本高。谷歌提出新主动学习筛选流程，能将训练数据规模降1万倍，还提升模型与人类专家一致性。经实验验证，该方法效果显著。

文章指出不懂代码的人爱Vibe Coding，还介绍AI Coding赛道跨行、跨文件补全方向。分析基于AST的上下文构造、提升速度的方法，提及AI IDE采纳率问题，认为实际项目中NES可控度更高。

Gemini 3.0登场引发热议，被视为Google近年最稳健升级。Google DeepMind CEO哈萨比斯谈其研发过程、团队推进能力等。新模型各方面提升显著，还将强化个性化、记忆等能力，Antigravity开发平台也备受关注。

强化学习与可验证奖励提升视觉语言模型推理能力，但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE，把标注证据区转为目标分布，监督空间注意力，推理无额外标注，实验成绩优异。

文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。

昆仑万维旗下天工AI发布SkyClaw - v1.0，为Agent场景深度优化，免费试用后将开源，价格低。性能超同级别开源对手，逼近闭源巨头。训练围绕环境构建、数据合成、强化学习展开，适合长链路Agent工作流。