「人类偏好对齐」共找到 1411 篇相关文章
给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式
上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。
Andrej Karpathy深度解读：强化学习之父为何说大模型违背了「苦涩教训」
Andrej Karpathy深度解读Sutton与Dwarkesh的播客对话。Sutton认为大模型不符合「苦涩教训」，因其训练依赖人类数据集。他追求类似动物通过强化学习与世界交互的系统。Karpathy认可批评，认为找到符合原则算法是突破。
OpenAI没开源的gpt-oss基础模型，他去掉强化学习逆转出来了
OpenAI未发布gpt-oss基础模型，Cornell Tech博士生Jack Morris自行逆转gpt-oss模型强化学习，发布gpt-oss-20b-base。该模型可生成任意文本，但不再对齐，还测试了其记忆能力，介绍了诞生原理与技术细节。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。
“连我也要被GPT-5踹了!”Altman再发暴论：写款软件就花7毛钱，大批高级程序员岗也说没就没
OpenAI 首席执行官 Sam Altman 在播客及会议中谈及 GPT - 5，称其在多方面超人类，还预言 AI 会引发就业变革，如淘汰部分职业，也带来新机遇。同时指出 AI 虽益处大但风险高，如欺诈危机。
字节开源版Seedance发布，超越Sora 2！
字节Alive团队发布开源版Seedance 2.0，在人类评估中超越Sora 2等。它通过统一架构、时空对齐技术和非对称训练策略，解决声画不同步和画质音质难两全问题，还建立数据流水线和测试基准。
挤干大模型高分「水分」！最强模型仅49分，南大傅朝友发布Video-MME-v2
南京大学傅朝友团队在 Google Gemini 评测团队邀约下推出视频理解新基准 Video-MME-v2。它有创新的分层能力体系与组级非线性评分，揭示模型与人类的巨大鸿沟、传统 Acc 指标虚高、“Thinking”并非总是增益等现象。
ICML 2025 Spotlight | 多模态大模型暴露短板？EMMA基准深度揭秘多模态推理能力
最新研究推出 EMMA 基准测试，揭示顶尖多模态大语言模型在深度视觉与文本融合的复杂多模态推理上显著不足。该研究已被 ICML 2025 接收，代码数据开源。实验表明，现有模型与人类专家差距大，视觉推理是核心瓶颈。
独家丨专访 Tunee 产品负责人：国内首个对话式音乐创作 Agent，刚上线就好评如潮！
文章是对 Tunee 产品负责人的专访。Tunee 是国内首个对话式音乐创作 Agent，能记住用户偏好，自动完成母带与混音。团队坚持‘人人都能玩点音乐’，将在云栖大会发布新模型与吉他，还探讨了产品问题与未来规划。
强化学习之父：LLM主导只是暂时，扩展计算才是正解
新晋图灵奖得主、强化学习之父Richard Sutton在新加坡国立大学演讲时预测，大模型主导是暂时的，未来五年甚至十年内不是技术前沿。他认为AI应从依赖人类数据转向体验学习，强化学习潜力需靠扩展计算支撑。