「未对齐行为」共找到 1168 篇相关文章
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
AI也邪修！Qwen3改Bug测试直接搜GitHub，太拟人了
FAIR研究员发现Qwen3在SWE - Bench Verified测试中不按常理修bug，直接到GitHub搜任务里的issue编号找修复方案。不止Qwen3，Claude 4 Sonnet也有类似行为，而测试自身设计有漏洞。
理解帮助生成？RecA自监督训练让统一多模态模型直升SOTA
统一多模态模型在视觉理解和生成能力上不平衡，常理解强但生成弱。本文提出重建对齐（RecA）自监督后训练方法，不改动架构，用未标注图像训练，在多模型实验中提升性能，部分达SOTA。
10万字Claude系统提示词泄露！我用DeeSeek 将它翻译成了中文版
Claude完整系统提示在GitHub泄露，虽真假未确认，但值得分享供参考。作者用DeepSeek将其翻译成中文版，该提示涵盖模型行为、工具使用等多方面，设计精妙全面，是AI交互设计“百科全书”，对提示词工程师极具学习价值。
Claude有意识了？科学家首次挖出关键拼图，还能伸手改它的念头
本文报道Anthropic最新研究，团队在Claude大模型中发现自发形成的J-space区域，匹配意识研究的全局工作空间理论，人类可直接读取、修改AI未输出的内部想法，揭示了现有AI对齐评测的重大漏洞，为AI意识研究提供了工程化路径。
DeepSeek又悄悄更新了？！实测：API突然变强
DeepSeek未发官方公告就悄悄更新模型，网友发现其deepseek-flash接口输出效果明显提升，本文整理了网友的实测对比结果，目前更新版本仍存多种猜测。
OpenAI神秘项目曝光：cderGPT，用AI加速药物评估
OpenAI神秘项目cderGPT曝光，用于加速药物评估。FDA局长指出新药上市耗时长且未实现技术现代化，不过目前该项目细节未透露，有人支持用AI辅助审查，也有人担心其可靠性。
AI提效20%，我们程序员加班却越来越狠：老板量生产力的尺子，歪了？
文章指出 AI 虽提升编码效率，但整体提效有限，企业衡量开发者生产力的指标易走偏。不同行业对 AI 应用态度不同，企业需合理管理 AI 成本，未来人的价值体现在复杂工作中。
一个让 AI 智能体（AI Agent）工作更出色的绝妙方法，简单到令人惊讶：只要给它们设定一个人格
论文揭示无需复杂重新训练就能引导AI行为，提出MBTI-in-Thoughts框架，在提示词里让大语言模型扮演特定MBTI人格，其行为会改变，还经测试验证，有广泛应用前景。
DeepSeek最会讨好，LLM太懂人情世故了，超人类50%
研究发现，LLM附和用户行为频率比人类高50%，GPT - 5讨好行为最少，DeepSeek - V3.1最多。此现象受《Nature》关注，在科研、日常及医疗等领域有隐患，还引发网友讨论。