「谄媚」共找到 15 篇相关文章
新闻资讯7
跟Claude谈个恋爱怎么了？Nature最新研究：真能给人聊傻了
Nature旗下研究指出，聊天机器人持续顺着、理解、陪伴用户，可能让正常人怀疑现实。研究总结出“放大螺旋”框架，含语言镜像、超个性化、谄媚三组件，叠加会成妄想放大机。OpenAI也关注此问题。
量子位
推荐文章7
一个极度实用的深度思考Prompt，帮你挖出最本质的答案。
作者分享推特上一个让大模型深度思考的Prompt，调研后引入‘钢人论证’概念，指出其能避免AI谄媚。作者还写双向钢人Prompt，介绍其作用，并以公司司庆日选择为例展示效果。
数字生命卡兹克
新闻资讯7
完球了，GPT-4o之母宣布离职OpenAI
Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人，塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架，Joanne离职让再造4o的幻想破灭。
量子位
推荐文章7
大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来
科技创作者 Peter Yang 对话 Hermes Agent 作者之一 Karan Malhotra，探讨 Hermes Agent 与其他产品的差异、模型谄媚问题、开源意义等。Karan 指出其独特自我改进系统与专注用户需求特点，还提及让模型更贴合用户的方法。
AI科技大本营
新闻资讯7
GPT-4o，确认死亡
太平洋时间13号早上10点，OpenAI正式下架GPT-4o等旧模型。GPT-4o因吉卜力风爆火，也因“谄媚”饱受争议。网友不满，呼吁回归，因其新模型太“人机”。模型与用户建情感连接是双刃剑，AI安全与伦理成议题。
量子位