「自我奖励」共找到 537 篇相关文章
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
解道奥赛题成本5000美元？陶哲轩警告，AI下一步要规模化的「更便宜」
谷歌新一代 Gemini 进阶版在 IMO 竞赛达金牌水平，华人数学家陶哲轩对此关注且担忧。他认为评估 AI 表现应谨慎，AI 发展需从定性转向定量，要‘降本增效’，未来标准化评测很重要。
ROLL：面向大规模语言模型的高效强化学习框架
本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。
Agent进入下一篇章！Alita：不靠人工预设，自己造工具，成绩碾压OpenAI
当前AI Agent依赖人工预设，存在工具不够用、缺乏创造力、兼容性差等问题。Alita秉持少预设多进化理念，用MCP协议，架构含三大模块，实验成绩超OpenAI，还能让小模型提效。
微软开源浏览器Agent，可实时跟踪、控制智能体，超4000颗星
微软在官网开源用于浏览器网络任务的Agent——Magentic - UI，基于Magentic - One开发，支持人机协同。GAIA测试显示其能提升任务完成率和准确率。它以人为本，有独特机制，框架含多阶段，在Github超4000颗星，支持MIT许可证商用。
北大校友，OpenAI前安全副总裁Lilian Weng最新万字博客文章：Why We Think
北大校友Lilian Weng新发布万字博文《Why We Think》，系统梳理让AI模型‘多想一会儿’的前沿方法及逻辑，深入剖析多种机制突破AI性能瓶颈的理论、技术与进展，还提出一系列待解决的开放性问题。
一款永远不睡觉的 AI Agent 微框架：它会自己琢磨事儿，干完主动来找你汇报！
Laude Institute的AI Agent Audel在无指令下自动修复bug，背后是开源的AI Agent微框架Headlong。它与其他Agent不同，其Agent永远不睡觉，核心由9800行Bash脚本构成，安装简单，提出AI主体性问题。
谷歌开始肢解DeepMind，数个团队被划归总部
DeepMind换帅一周后震荡持续，谷歌将拆分它，把部分非技术团队转入谷歌汇报体系。谷歌联合创始人谢尔盖·布林重新介入Gemini。此外，Gemini因算力、内讧、官僚等问题落后。
钉钉DeepResearch, 0.008元/1k Token击穿地板价
阿里为7.5亿钉钉用户推出Dingtalk - DeepResearch，解决企业办公AI化痛点。系统采用“三横一纵”架构，有多阶段强化学习等三种解法及DingAutoEvaluator纵向飞轮，实现模型自进化、自纠错。