「人类偏好对齐」共找到 1411 篇相关文章
300只狗试用延寿药，「寿命曼哈顿计划」启动！
1300只狗参与「延长寿命」实验，被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显，制药、临床研究等多方面有进展。Altman等名人押注「永生」，但长寿也带来伦理等诸多问题。
LLM 没意思，小扎决策太拉垮，图灵奖大佬 LeCun 离职做 AMI
图灵奖得主 Yann LeCun 宣布年底从 Meta 离职创业，聚焦高级机器智能研究项目 AMI。他离职是因与 Meta 在 AI 发展路线上冲突，且不满 LLM，坚持基于“世界模型”的下一代 AI 技术。
超实用提示词模板！AI科学家教你用协作提示词激发大模型潜力
文章由知名AI科学家Lance Eliot所写，指出主流大语言模型因训练机制变得‘短视’，缺乏深度协作能力。介绍协作提示词技术，能让AI成为主动引导者，并以测试展示效果，还说明了适用场景。
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
微软AI掌门直击AI乱象！AI意识纯属危言耸听，机器觉醒歧途一条
微软AI负责人Mustafa Suleyman认为只有生物体才有意识，开发者不应追求让AI有意识。他强调区分AI能力提升和拥有意识的不同，反对讨论AI意识，还分享了微软产品相关看法。
可口可乐又翻车了？用AI做圣诞卡车广告，观众说「没灵魂」！
2025年可口可乐用AI生成圣诞卡车广告，虽品牌方称工艺提升十倍，但观众觉得没灵魂。此前春晚吉祥物‘龙辰辰’也因疑似AI制作遭质疑。AI复制情感能力已蔓延各领域，引发对情感表达的思考。
图灵得主Yoshua Bengio，开始警惕AI有意识了
图灵得主Yoshua Bengio和学生在Science发文探讨AI意识问题。文章未明确AI是否有意识，而是讨论科学界和公众信念的演变及把AI当有意识生命体的风险，还提及计算功能主义等相关理论。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
美7000万人或被取代，Agent光速卷入职场！北大校友、杨笛一新作
斯坦福大学研究团队调查104个职业领域1500名专家及52名AI研究员，构建WORKBank数据库。研究发现职场AI需求与能力错配，工人对AI态度不一，还揭示未来人类技能变化趋势。