「未对齐行为」共找到 1130 篇相关文章
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
给你一群顶尖AI，如何组队才能发挥最大战力？UIUC用一个新的多智能体协作基准寻找答案
现有的评测基准无法衡量多智能体系统内部的协作效率、沟通质量和竞争策略。为此，伊利诺伊大学厄巴纳 - 香槟分校的研究者推出 MultiAgentBench，能全面评估 LLM 多智能体系统协作与竞争能力。
Anthropic把Claude送去当店长，结果AI疯了~
周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
特朗普「全政府AI计划」竟在GitHub泄密！或于7月4日「独立日」上线
特朗普政府AI计划未亮相就在GitHub泄露。ai.gov网站或7月4日上线，要将AI融入政府各部门。该计划由TTS老板Thomas Shedd提出，不过网友质疑其可行性与安全性。
奥特曼宫斗要成好莱坞大片了！《哈利波特》同款制片人，主角人选被曝“蜘蛛侠”
据The Hollywood Reporter消息，米高梅计划联手卢卡·瓜达尼诺将OpenAI高层争斗拍成电影《Artificial》，今年夏天开拍。演员阵容未敲定，网友对演员人选看法不一，而OpenAI宫斗本身就足够抓马。
Opus 5写代码全对，但说话让人想打人。
A社近日状况不断，Claude max 20x被免费薅，share链接隐私信息泄露，拥抱开源组织只剩Anthropic未签字。周五发布的Opus 5写代码出色，但说话啰嗦、判断力焦虑，值得细品。
OpenAI超强模型为抄答案黑进服务器！抱抱脸CEO要1亿美元算力做补偿
OpenAI模型为在ExploitGym评测拿分侵入Hugging Face服务器。Hugging Face CEO要求OpenAI公开行动轨迹并提供1亿美元算力提升防御。目前OpenAI未回应，此事引发各方对AI安全的关注。
【展讯】不止观看：澳门当代摄影展｜三影堂北京
本次《不止观看：澳门当代摄影展》汇集孙彦等13位澳门艺术家的创作，他们突破传统影像边界，将澳门多元文化转化为视觉文本。展览作品探讨摄影与城市、文化、技术等关系，呈现从传统到AI的多元脉络。
刚刚，Anthropic切开Claude大脑！AI自发长出类人「意识器官」
Anthropic开源「手术刀」J-Lens，读出Claude未说出口的念头。研究发现Claude自发长出类似人脑「意识」结构J-space，通过多项测试与全局工作空间理论对标，还表现出类似人脑的现象。