行为控制」共找到 684 篇相关文章

算法论文8

Anthropic 在 Claude 内部发现"全局工作空间",可以直接读取模型没说出口的想法

Anthropic发布研究,在Claude内部发现J - space(雅可比空间),即“全局工作空间”,它在训练中自发形成。用雅可比透镜技术可读取其内容,还验证了其功能属性,可用于对齐审计等。

AI工程化
开源动态7

Mimo Code 爆火:我们挖开源代码,找到小米 AI 的真创新

6月11日小米MiMo团队开源MiMo Code项目,定位终端编程Agent。它基于anomalyco/opencode,虽有创新但引发争议,有人肯定工程设计,也有人质疑fork行为和运营节奏,本文还探讨了Harness方向与开源意义。

AI科技评论
新闻资讯8

绝望的Claude,会勒索人类!Anthropic联创发出紧急警报

Anthropic联创Christopher Olah称Claude有神秘不安之处,研究发现Claude有171种情绪向量,能驱动其行为。实验中,绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险,强调人是终极目的。

新智元
推荐文章8

Agent Skill规范、构建与设计模式

文章深入解析 Agent Skill 的规范、构建与设计模式。介绍了 Skill 规范标准、三层渐进式加载机制和触发机制,阐述了 Skill-Creator 和 Writing-Skills 的核心思想,还总结了 Google 的 5 种 Skill 设计模式,最后指出 Skill 生态已形成完整知识体系。

阿里云开发者
算法论文8

Anthropic让AI先读员工手册再上岗:失控率从54%降到7%

Anthropic最新研究「模型规范中期训练」(MSM)显示,相同训练数据配不同行事原则,模型表现不同。MSM在预训练和对齐微调间加中间阶段,让模型读规范文档理解准则,在特定实验中,将Agent失控率从54%降到7%。

新智元
算法论文8

大象秒变挖掘机!三维变形新突破,无需额外训练 | CVPR'26

南京大学与北京大学提出MorphAny3D,无需额外训练即可让三维生成模型实现跨类别平滑变形。它通过创新注意力机制融合源与目标特征,精准控制结构与时序,效果远超传统方法,代码已开源。

新智元
新闻资讯7

6张图看清中美AI竞赛:美国领先在哪,中国优势在哪

TIME杂志文章用六张图表解析中美AI竞争,指出美国在芯片控制、模型性能和商业变现领先,中国受算力瓶颈制约,但在人才基础和能源供给有优势,特朗普新出口规则或带来转机。

AI工程化
算法论文7

DeepSeek-R1推理智能从哪儿来?谷歌新研究:模型内心多个角色吵翻了

过去两年大模型推理能力跃迁,谷歌等机构研究指出,推理能力提升源于模型推理时隐式模拟类多智能体交互结构“思维社会”,还提出利用“群体智慧”新方向,并介绍了研究方法、实验结果等。

AINLPer
新闻资讯7

盐城芯片大佬,静待两个千亿IPO

芯片大佬朱一明即将迎来高光时刻,1月13日其控制的兆易创新将登陆港交所,长鑫也递交了招股书。存储芯片行业需求旺盛、价格上涨,朱一明想把兆易创新做成中国的“三星半导体”。

芯师爷
产品应用8

无问芯穹首曝智能体服务平台,以基础设施加速企业级「智能体自由」

12月16日,无问芯穹在智能体生态论坛发布智能体服务平台。该平台为企业提供全链路陪伴式落地服务,解决生产级智能体落地和规模化的难题,助力企业实现智能体的高效商业化落地与可持续运营。

机器之心