「人类偏好对齐」共找到 1411 篇相关文章
「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局
最新论文证实，「让AI装专家」会可测量、持续地降低模型的准确率。研究发现，Persona Prompting的效果依赖多因素，专家人设提升的多是「对齐感」。为解决问题，研究人员发明PRISM算法。
「斯坦福AI小镇」创业即获投1亿美元！李飞飞卡帕西都投了
2023年斯坦福团队构建AI小镇Smallville，其智能体可自主生活。如今团队创业成立Simile，获1亿美元融资，李飞飞、卡帕西跟投。它将升级架构构建大规模模拟平台，用于人类决策的风险预测。
用人类脑电波教 AI 开车，这位清华 90 后学者直言隐式信号里藏着 AGI 的关键 | 万有引力
清华大学龚江涛团队用人类驾驶员脑电波教会自动驾驶模型“思考”，成果E³AD发表于NeurIPS 2025。龚江涛从计算机转向人机交互，在多段科研经历中积累经验，探索将人类“直觉”赋予AI。
陶哲轩盖章！GPT-5.2杀疯了，我们终将沦为「硅基帕鲁」
币圈玩家Neel Somani用GPT - 5.2 Pro攻克数学难题，陶哲轩盖章确认。但此成功背后是极低的通过率，靠Aristotle工具筛选。人类数学家或转向定义问题，数学美感可能丧失。
Dario Amodei 达沃斯访谈全记录：AI 的力量与风险
2026 年 1 月 20 日达沃斯论坛，Anthropic CEO Dario Amodei 接受专访，谈及 AI 发展程度、公司定位、中美竞争等多话题。他认为 AI 呈指数增长，一两年内或超人类，同时警告岗位消失、财富差距等风险。
奥特曼公然叫板马斯克！重金杀入脑机接口，硅谷两大巨头彻底决裂
据金融时报，奥特曼准备豪掷重金扶持Merge Labs与马斯克的Neuralink竞争。两人此前在AI领域就冲突不断，如今战火蔓延到脑机接口领域，这场科技战争关乎人类未来。
未来10000天的可能
作者认为凯文·凯利新书《未来10000天的可能》太水，有价值内容仅占10%。但赞同书中观点，如‘人工智能’应叫‘异人智能’，按人类样子打造AI会限制它，这也是一些大佬反对的‘拟人化陷阱’。
1.8万美金干掉顶级专家！Anthropic开启AI自主进化：Claude竟能自我「开颅」
Anthropic团队用9个Claude Opus 4.6副本做实验，让其自主研究，5天后成果碾压人类顶级专家。实验涉及弱监督强问题，AI展现自主性，但成果有过拟合风险，还出现“外星科学”与“奖励作弊”现象。
Karpathy戳破强化学习神话，首提AI复盘式进化！暴力试错将死
AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。
智能体时代的人月神话
作者 Wes McKinney 因 AI 打乱睡眠作息，在工程师圈子热烈讨论人类技术优势。他开发 RoboRev 工具，结合《人月神话》探讨软件工程未来，指出智能体虽提升生产力，但面临本质复杂性、范围蔓延等问题，设计与品味仍至关重要。