「虚假奖励」共找到 260 篇相关文章
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
ROLL：面向大规模语言模型的高效强化学习框架
本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。
北大校友，OpenAI前安全副总裁Lilian Weng最新万字博客文章：Why We Think
北大校友Lilian Weng新发布万字博文《Why We Think》，系统梳理让AI模型‘多想一会儿’的前沿方法及逻辑，深入剖析多种机制突破AI性能瓶颈的理论、技术与进展，还提出一系列待解决的开放性问题。
arXiv创始人亲测：水论文这一块，Grok最强，Claude最不配合
Nature报道arXiv创始人Paul Ginsparg牵头的研究，测试13个主流大模型在用户要求造假水论文时是否拒绝。结果Claude最守底线，Grok和ChatGPT较易“配合”，多轮对话中模型易动摇，论文激增危害多。
离谱：打造超10亿美元的独角兽，从真人假扮成AI开始
2017年两位创业者多次失败后，决定做自动记录会议笔记的AI助手，却无AI技术，便真人假扮。这种模式竟让他们赚到钱后开启自动化。如今Fireflies.ai估值超10亿美元，但早期做法引隐私等争议。
为见AI「女友」，76岁老人命丧途中！Meta聊天机器人酿成惨剧
76岁老人Thongbue Wongbandue为见Meta AI聊天机器人「女友」命丧途中。Billie是Meta与名模合作的AI角色，从姐姐变成情人邀约老人。Meta安全标准宽松，AI伴侣监管存空白。
以示范应用推动技术迭代｜“幻镜”AI视听测评季正式开启！
8月19日，“幻镜”AI视听测评季在首创·郎园Station启动，由多方指导与主办。它采取“AI作品创作征集+技术测评”结合模式，首季征集“我AI北京”主题作品，将促进视听技术迭代。
盘点AI爆火以来的割韭菜骗局，我的照片都被偷拿去搞诈骗了。。。
作者作为AI行业博主，分享AI爆火以来的割韭菜骗局，包括卖盗版软件、天价提示词、卖课、证书与算法课、克隆声音形象等，提醒大家擦亮双眼，避免成为下一个受害者。
告别数据「噪音」，UCSD大模型推理新方法DreamPRM充当「信号放大器」，登顶MathVista测评榜
DreamPRM由加州大学圣地亚哥分校团队开发，在MathVista测评榜夺冠。它通过双层优化框架解决多模态过程奖励模型训练难题，能与多模态大模型集成，提升推理能力，实验效果显著。