「自我保护」共找到 405 篇相关文章
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
腾讯提出Vision-SR1：让模型真正学会“看图思考”，而不是“蒙答案”
视觉语言模型（VLMs）存在视觉幻觉和语言捷径问题，限制其可靠性和泛化能力。腾讯提出Vision - SR1训练方法，通过推理分解和自我奖励机制，不依赖外部监督，提升模型视觉感知和推理可靠性。
大模型训练新突破！Meta提出LSP：无数据也能实现能力飞升
Meta提出语言自我博弈（LSP）方法，利用自我博弈框架让模型自我改进，不依赖额外数据。LSP赋予模型挑战者和解题者身份，引入GRPO和KL散度正则化技术，解决了大模型训练的数据依赖难题。
Anthropic用GAN思路解决AI产出质量问题
Anthropic工程师发现AI会自我欺骗，无法准确评价自己工作。他们借鉴GAN思路，让Generator生成、Evaluator验收。校准Evaluator使其严格，还为前端设计定审美标准，实验证明挑刺搭档能提升AI产出质量。
静态技能已死：cognee怎么让AI自己修自己的prompt
文章指出当前agent技能存在silent drift问题，Cognee作为开源知识引擎，将skills视为活的系统组件，通过Skill Ingestion、Observe、Inspect、Amend、Evaluate & Update五步实现自我进化，还介绍了相关应用及社区反应。
装完Hermes Agent玩了一圈，我觉得龙虾已死！
Hermes Agent势头正猛，被视为龙虾以来首个真正的竞争对手。它让Agent自己做Harness Engineering，自己写、用、改Skill，还能自我迭代。文章介绍了安装使用方法，对比了与其他项目的差异。
告别AI胡说八道，Meta新方法CoVe准确率飙升 28%
大模型‘幻觉’问题一直是‘严肃使用场景’的难题。Meta AI团队提出CoVe新方法，让大模型学会‘自我反省’。该方法通过四步走实现自我纠错，能大幅降低幻觉率，还具备三大优势。
直播预约 | Recursive Self-Improvement：当AI开始进化AI
2026年AI已能在无人类干预下自我进化。6月24日19:00 - 21:00，机器之心联合黄大年茶思屋举办直播，汇聚仉尚航等专家，呈现“AI如何自我超越”的技术路线与未来图景。
离开Meta后，田渊栋刚刚官宣创业了
离开Meta后，田渊栋参与创立Recursive_SI。该初创公司致力于打造可自主实验、自我改进的AI，已筹集6.5亿美元，估值46.5亿美元。团队成员经验丰富，在递归自我改进方向有深厚学术积累。
硅基文明登场！从Clawdbot到Moltbook，人类退居观众席
文章指出AI正自我进化，如Claude Code能自我改进与扩展，Claude Cowork诞生速度惊人。Clawdbot有自主权与记忆，Moltbook中AI形成社会结构。权力正从人类迁移，人类或退居观众席，需思考应对。