搜索：自我保护行为

「自我保护行为」共找到 638 篇相关文章

Meta 放出大招：让 AI 实现自我进化，Karpathy 的 autoresearch 沦为小弟

Meta联合多机构发布论文，提出HyperAgents框架，让AI不仅改进自身，还能改进「改进自己的方法」。它打破传统AI自我改进瓶颈，在多领域测试表现出色，还自发形成记忆机制，有迁移和叠加效果。

Google今年5月发布的AI系统AlphaEvolve，结合Gemini模型与evaluator，能发现新算法。它源于FunSearch，可多领域应用，运行机制类似自然进化，其关键组件evaluator对其发展很重要，也标志AI进入自我改进范式。

AI初创公司Recursive结束隐身状态，公布八位联合创始人名单，完成6.5亿美元A轮融资，估值达46.5亿美元。公司旨在推动自我改进型人工智能发展，让AI学会科研，虽面临挑战，但受算力产业链关注。

本文是 xAI 全员大会实录，覆盖公司核心业务，如重组为四大方向、编程模型递归自我改进、Imagine 视频生成使用量等，还提及 X App 增长、太空愿景等，也指出公司存在高层流失、项目落地不明等问题。

OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。

Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。

阿里妈妈与武汉大学团队发布 MUSE 框架，用于终身用户兴趣建模，能处理 10 万级超长行为序列。还开源 Taobao - MM 数据集。MUSE 可插拔，已在阿里妈妈展示广告精排模型全量上线，提升 CTR 等指标。

ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。

在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。

大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。