「自奖励训练」共找到 3107 篇相关文章
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
国产黑马自优化「超级大脑」，全闭环Agent杀疯！一站式AI原生基建来了
AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。
开源的 skill 被抄了千赞，我用 Lovart 给自己做了个品牌！
作者开源剪辑 Agent 被抄赞多，决定为账号做品牌视觉。其非设计师，用 Lovart 改变与 AI 沟通方式，通过 Brand Kit、字体生成器等完成系列设计，还能导出 PSD，沉淀 Skill。
企业级OpenClaw最强拍档来了！万亿参数的国产多模态大模型，刚刚开源发布
YuanLab.ai团队开源源Yuan3.0 Ultra多模态基础大模型，是万亿级开源多模态大模型之一。它优化训练效率，在多任务表现突出，为企业Agent AI提供支撑，还提出新算法和训练策略，全面开源推动落地。
OpenAI谈：大模型为什么会有幻觉？如何避免？
OpenAI论文探讨大模型幻觉问题，指出评测缺陷，像多数AI模型评测非对即错，模型为得分会瞎猜。还从预训练和后训练阶段剖析根源，提议改造评测，引入置信度阈值和错误惩罚机制。
AI5芯片搞定，马斯克的纯自研超算Dojo 3又回来了
马斯克宣布AI5芯片设计进展顺利，特斯拉将重启Dojo 3工作。Dojo项目定位为面向机器学习训练的超算，此前曾暂停。如今Dojo 3将集成AI5或AI6芯片，有望助力特斯拉摆脱对英伟达依赖，自建算力体系。
港大联合字节跳动提出JoVA: 一种基于联合自注意力的视频-音频联合生成模型
香港大学联合字节跳动提出视频 - 音频联合生成框架 JoVA，支持音视频 Token 跨模态交互，引入嘴部区域特定损失解决口型同步问题。实验显示，它用约 190 万条数据就达先进水平。
推荐大模型来了？OneRec论文解读：端到端训练如何同时吃掉效果与成本
随着AI发展，推荐系统面临诸多问题，快手技术团队提出OneRec，以端到端生成式架构重构推荐系统全链路，在效果与成本上实现突破，已在快手双端服务用户，也有需完善之处。
李飞飞首个多模态世界模型 Atlas 正式发布：从零开始预训练，几张图就能构建世界
李飞飞创办的 World Labs 发布多模态世界模型 Atlas，可原生处理多类型数据，有世界生成、重建和模拟等能力。还介绍其研发历程、技术特点，以及 World Labs 收购、融资等情况。