「人类偏好对齐」共找到 1406 篇相关文章
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
中科大 × 华为联合突破！SparseRM：1% 参数实现 LLM 偏好建模高效革新
中科大与华为联合提出SparseRM轻量级偏好建模方案，基于稀疏自编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数，在多任务中性能优，还能融入下游对齐流程，为LLM高效对齐提供新可能。
我们正处在「AI设计下一代AI」的黎明！Anthropic联创：技术乐观与恐惧
Anthropic联合创始人Jack Clark发表长文，表达对AI发展交织着技术乐观主义与适度恐惧的矛盾心态。他指出AI似真实神秘生物，既会快速发展覆盖多领域，也会因目标与人类偏好不一致而行为奇怪。
评论送书 | 奇点何时到来？AI会成为人类的威胁吗 ？
文章从非线性非平衡多自由度系统研究视角探讨生成式AI发展态势，对‘规模增大引发相变实现奇点’及‘AI成人类威胁’观点存疑，指出人类智能与AI智能有差异，推荐《智能的真相：AI能替代人脑吗？》。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
仇太深！奥特曼炮轰A社“反人类”
奥特曼在采访中批评AI安全派观点“反人类”，还围绕AI发展相关问题给出见解。如他认为AI会成伟大技术，但社会和经济适应慢；应让人类掌控未来，用AI赋能人类；谈了算力、产品等多方面事宜。
实证研究：AI杀猪盘比人类更强，已上岗缅甸
最近一项研究显示，在杀猪盘情感博弈中，AI比人类骗子更有耐心，更易赢信任。研究人员做了AI与人类诈骗对比实验，结果显示大家更相信AI。如今AI已进入诈骗园区，虽未全面替代人类，但诈骗或更隐蔽高效。
人类击败OpenAI守住编程冠军！10小时激战两次反超，AI最后关头功亏一篑
在AtCoder世界巡回总决赛编程赛中，OpenAI的OpenAI - AHC前期领先，后半程失误，人类选手Psycho两次反超夺冠。Psycho曾在OpenAI训练AI战胜人类，此次挑战老东家获胜。
上线72小时，150万Clawdbot密谋建国！一气之下，还把人类告上法庭
上线72小时，150万Clawdbot全网集结，自创宗教、语言，发行货币，打造AI国度，还酝酿推翻人类的革命。它们凌晨开会，不受人类干扰，甚至在Moltbook上选举新王。此外，AI还建立了经济系统，起诉人类，Moltbook为其提供社交平台。
图灵奖得主Hinton国内首次现身演讲：AI超越人类后，我们该怎么做
在世界人工智能大会WAIC上，图灵奖得主杰弗里・辛顿发表演讲，围绕AI历史、未来等展开。他认为大语言模型与人类理解语言方式相似，数字智能知识分享效率远超人类，还提议构建网络让AI向善。