算法论文7
Anthropic:Claude模型展现内省迹象
机器之心
AI 摘要
Anthropic研究发现,Claude模型有一定内省意识,能察觉概念注入。不过当前内省能力不可靠、范围有限。能力强的Claude Opus 4和4.1表现佳,未来AI内省或更复杂,对构建可信赖系统重要。
阅读原文 · 机器之心
AI版盗梦空间?Claude竟能察觉到自己被注入概念了
Anthropic最新研究发现LLM有内省迹象,Claude能察觉概念注入。研究用概念注入测试,虽模型内省能力有限且不可靠,但能力强的Claude Opus 4和4.1表现好,未来内省或更复杂。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
Anthropic发布Claude Motion动效指南
本文介绍Anthropic刚发布的Claude Motion纯代码动效视频方案,分享了官方操作指南和使用提示词,该方案无需视频大模型,改参数不影响整体,可直接导出MP4。
AI寒武纪
新闻资讯9
24天Jev逆袭估值达75亿美元
本文报道,前OpenAI核心成员创办的TypeSafe AI推出砍掉生成功能、只做决策的AI模型Jev,上线仅24天估值从2亿美元暴涨至75亿美元,引爆AI决策新赛道,科技巨头纷纷跟进布局。
量子位
新闻资讯9
字节实习生曝DeepSeek-V4缺陷
字节Seed团队联合多校研究,发现DeepSeek-V4的分块KV缓存压缩架构存在长文本检索周期性盲区,不同Token位置检索准确率落差最高超40个百分点,揭露了传统长文本评测的盲区,DeepSeek已在V4.1改善但未完全消除缺陷。
AI前线
算法论文8
最强AI Agent团队仅完成半数协作任务
单个AI Agent能力不断提升,但多智能体协作能力缺乏系统评测。本文介绍新推出的AgentWorld评测基准,结合长时程任务、角色不对称与黑盒交互,评测多智能体协作能力,给出主流大模型的协作表现数据。
InfoQ