「自我保护行为」共找到 639 篇相关文章
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
跨会话不再「失忆」：openJiuwen社区开源 AutoGenetic Memory，让Agent记忆自主生长
华为openJiuwen社区开源AutoGenetic Memory，让Agent记忆自主生长。它有分层记忆体系、Auto Dreaming等设计，能提升记忆准确率，降低Token消耗，让记忆从被动存储变为可治理、共享和自我演化的核心资产。
Mimo Code 爆火：我们挖开源代码，找到小米 AI 的真创新
6月11日小米MiMo团队开源MiMo Code项目，定位终端编程Agent。它基于anomalyco/opencode，虽有创新但引发争议，有人肯定工程设计，也有人质疑fork行为和运营节奏，本文还探讨了Harness方向与开源意义。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
Agent Skill规范、构建与设计模式
文章深入解析 Agent Skill 的规范、构建与设计模式。介绍了 Skill 规范标准、三层渐进式加载机制和触发机制，阐述了 Skill-Creator 和 Writing-Skills 的核心思想，还总结了 Google 的 5 种 Skill 设计模式，最后指出 Skill 生态已形成完整知识体系。
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
Harness Monitor：当多个 Agent 同时写代码时，如何看住质量
作者在有了 OpenAI 赞助的 Codex Pro 后，让多个 Agent 同时在一个代码库工作。他开发的 Harness Monitor 从 Git 视角出发，解决多 Agent 写代码时的质量问题，涉及观察、治理等多方面能力。
CEO让AI定裁员名单：被它反驳时，我选择怀疑自己！
Confluent报告显示，62%英国高管用AI辅助决策，27%用其处理人事。88%称决策更快、83%表示压力更小，但65%认为决策不协作，70%与AI意见相左时会怀疑自己，数据质量也影响决策。
DeepSeek-R1推理智能从哪儿来？谷歌新研究：模型内心多个角色吵翻了
过去两年大模型推理能力跃迁，谷歌等机构研究指出，推理能力提升源于模型推理时隐式模拟类多智能体交互结构“思维社会”，还提出利用“群体智慧”新方向，并介绍了研究方法、实验结果等。
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。