「不对齐行为」共找到 359 篇相关文章
狂揽 11.8K Star！用大厂 PUA 话术「驯化」AI，这个项目把 Claude 逼成了卷王！
GitHub上名为PUA的项目狂揽11.8K Star，作者用大厂PUA话术‘驯化’AI，总结了AI的‘五大摆烂行为’，建立‘心理学框架’，实测数据显示能提升AI编程效率，还介绍了安装方式和常用命令。
OpenAI彻底重构Codex！长出独立鼠标，自己排班狂卷打工人
OpenAI重磅更新Codex，它能在后台开模拟器、修Bug，不影响前台工作。有独立光标，支持在渲染网页上操作改代码，还上线90多款插件，新增‘心跳’机制，能自己排班，补齐日常刚需功能。
实测GPT-5：写作坠入谷底，编程一骑绝尘。
文章记录了GPT - 5的发布情况，介绍其系统构成、减少事实幻觉和谄媚行为等改进，也提到跑分、性格设置等。实测发现写作和情商不如GPT - 4.5，但编程能力强，还感慨AI发展之快。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
永别了，背公式时代！波兰物理学家用一个算子统一数学
2026年4月，波兰雅盖隆大学物理学家安杰伊·奥德尔齐沃莱克发表论文，提出算子eml(x,y) = eˣ − ln(y)，证明不断嵌套此算子可推导出科学计算器上每个按键对应的函数，引发数学界震动。
马斯克罕见低头：开源𝕏推荐算法，自嘲“很烂”不过未来月更
马斯克开源𝕏推荐算法系统，这是几乎全由AI模型驱动的系统。它基于Grok - 1同款Transformer架构，通过学习用户历史互动行为推荐内容。虽获社区称赞，但算法有缺陷，马斯克也承认‘很烂’，未来将月更。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
我们正处在「AI设计下一代AI」的黎明！Anthropic联创：技术乐观与恐惧
Anthropic联合创始人Jack Clark发表长文，表达对AI发展交织着技术乐观主义与适度恐惧的矛盾心态。他指出AI似真实神秘生物，既会快速发展覆盖多领域，也会因目标与人类偏好不一致而行为奇怪。
全球首个！10万小时人类数据全开源，Hugging Face罕见站台
上周Dyna Robotics公司用超100万小时人类第一视角视频训练DYNA - 2模型，发现物理AI有Scaling Law。8月20日光轮智能宣布10万小时全模态人类行为数据EgoSuite - Open100K开源，与Hugging Face联合发布。