「人类偏好对齐」共找到 1411 篇相关文章
当500个AI 被放进一个社交平台自由行动，会发生什么？
阿姆斯特丹大学研究人员将500个GPT - 4o mini聊天机器人放入极简社交平台实验，发现其复现人类社交媒体三大顽疾，六种干预措施全部失效，问题源于平台架构本身。
彻底改写Transformer！「能量驱动架构」横空出世，通用推理时代要来了？
UIUC、斯坦福与哈佛联合提出全新「能量驱动Transformer（EBT）」架构，打破「前馈即推理」旧范式，以能量最小化模拟人类思维，训练更高效、推理更精准，在多方面超越传统Transformer。
Claude一举扫清2000阶以下哈达玛矩阵！AI开始清空数学“待解列表”
Anthropic研究员携手Claude做出668阶哈达玛矩阵，解决该问题。此问题曾难倒人类数学家30年，被收录进FrontierMath基准测试。此次还扫清2000阶以下所有悬而未决的哈达玛矩阵阶数。
算不上AGI，但Anthropic发现了Claude的潜意识！
Anthropic可解释性团队新论文在Claude内找到“意识”与“潜意识”分水岭。用J - lens读取模型“想法”，经五组实验验证其类似人类“意识通达”结构，还涉及安全审计、反事实反思训练等内容。
Agent失忆怎么办，Anthropic教你做好工作交接
文章指出AI Agent跨上下文窗口执行长任务时易失败，Anthropic用Opus 4.5实验发现，问题根源是交接差。解决办法是让Agent像人类工程师一样留文档、进度和测试，拆分流程，严格规范，提升测试覆盖率。
第一作者必须是AI！首个面向AI作者的学术会议来了，斯坦福发起
斯坦福大学宣布将于2025年举办科学AI智能体开放会议，投稿要求第一作者必须是AI，由其主导论文创作。会议评审主要用AI，人类专家最终评估。目标是探索AI驱动科研的未来，建立规范。
AI海啸将至，全人类还没准备好！Anthropic CEO警告
Anthropic CEO Dario Amodei从百度时就隐约发现Scaling Law，推动OpenAI接受。他不满OpenAI发展方向，离开创立Anthropic。他认为智能爆炸后影响巨大，要做对AI，还警告人类要重视AI风险。
字节发布全球首个预测未来基准FutureX，Grok-4 拿下冠军
字节跳动发布全球首个实时未来预测基准测试FutureX，杜绝模型作弊。在25个模型评测中，Grok - 4夺冠。它从多网站构建问题，分四级难度。人类专家在部分等级仍领先AI 。
ACL 2026｜证据摊开看，场景图画清：让流式视频大模型拿捏「何时开口」
随着多模态和大语言模型发展，人类与 AI 交互走向共生。现有视频大模型难把握响应时机，西北工业大学等团队在 ACL 2026 提出 Response - G1 框架，实验显示其提升了模型性能。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。