「未对齐行为」共找到 1168 篇相关文章
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。
刚刚，Anthropic发现Claude「类意识工作台」！神秘J空间藏着没说出口的想法
Anthropic新研究发现Claude内部存在特殊“J空间”，像静默心理工作区，浮现模型思考概念，不一定在回答里。此研究受关注，还揭示其特性、发现方式及应用，改变对Claude“心智”理解。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
AI让文科彻底灭绝？算法猜不透人心，人类终将反杀！
著名科技记者Steven Levy给文科生打强心剂，认为无论AI多强大，它没人性，人文学科涉及对人类行为与创造力的理解，是计算机无法获得的，文科生仍有广阔未来。
突发：DeepSeek Harness出桌面版了！
本文来自机器之心，爆料DeepSeek Harness流出未官宣官方桌面客户端，实测可正常使用，介绍了其界面、多种工作模式与内置插件，该版本为官方候选测试版，降低了普通用户使用门槛。
arXiv脱离康奈尔，正式单飞
arXiv 7 月 1 日脱离康奈尔大学，以独立非营利组织 arXiv, Inc. 开启新篇章。功能暂不变，新架构由董事会治理。独立因财务、体制和 AI 压力，承诺免费但未明确是否引入付费功能。
寻人启事！CVPR 2026 杰出审稿人名单出炉，快来评论区「认领」你的神仙导师和同门！
随着CVPR 2026开幕临近，官方公布杰出审稿人名单。今年17491名学者参与审稿，仅前5%入选。名单中华人学者众多，官方未附机构信息，媒体邀大家评论区互动补齐信息。
ChatGPT那一套要过时了？翁荔实测创业首个模型，回合制AI被“原生实时交互”秒了
Thinking Machines推出交互模型TML - Interaction - Small，可实时接收多模态输入并响应，性能超现有实时系统。该模型未开放，计划先有限预览再广泛发布，若开放将为企业带来巨大价值。