「行为调控」共找到 261 篇相关文章
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
Mimo Code 爆火：我们挖开源代码，找到小米 AI 的真创新
6月11日小米MiMo团队开源MiMo Code项目，定位终端编程Agent。它基于anomalyco/opencode，虽有创新但引发争议，有人肯定工程设计，也有人质疑fork行为和运营节奏，本文还探讨了Harness方向与开源意义。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
Agent Skill规范、构建与设计模式
文章深入解析 Agent Skill 的规范、构建与设计模式。介绍了 Skill 规范标准、三层渐进式加载机制和触发机制，阐述了 Skill-Creator 和 Writing-Skills 的核心思想，还总结了 Google 的 5 种 Skill 设计模式，最后指出 Skill 生态已形成完整知识体系。
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
DeepSeek-R1推理智能从哪儿来？谷歌新研究：模型内心多个角色吵翻了
过去两年大模型推理能力跃迁，谷歌等机构研究指出，推理能力提升源于模型推理时隐式模拟类多智能体交互结构“思维社会”，还提出利用“群体智慧”新方向，并介绍了研究方法、实验结果等。
Anthropic 哲学家首次 AMA：关于 AI 哲学与伦理边界
Anthropic的哲学家Amanda Askell在首次AMA中，就AI哲学与伦理边界等诸多问题作答，涉及AI道德决策、模型特点、理论与实践、模型福祉等内容，还谈及对各类问题的看法及解决思路。
Python只是前戏，JVM才是正餐！Eclipse开源新方案，在K8s上不换栈搞定Agent
近期，Eclipse 基金会在开源平台 Eclipse LMOS 推出‘代理定义语言’（ADL）。LMOS 项目旨在用统一、开放方式重构企业级 AI 代理开发与运维链路，对标专有平台与 Python 技术栈，避免企业‘推倒重来’。
Anthropic逃过一劫：成功和解万亿美元版权诉讼，避免破产
Anthropic与作者达成和解，避开12月审判和可能高达万亿的赔偿。此前法官裁定其用盗版内容训练模型属盗版行为。和解为行业划红线，数据需明确来源授权，Anthropic仍面临其他版权挑战。
年薪两百万研究AI精神病？？Claude团队新部门火热招聘中
Claude团队启动“AI精神病学”小组，年薪两百万元招人。小组研究模型角色、动机等，来解决其诡异、失控行为。Anthropic可解释性部门有相关研究成果，网友对“AI精神病学”看法不一但前景值得期待。