「智能体安全」共找到 4146 篇相关文章
突破Claude-4编程上限！自进化Agent框架拿下新SOTA，底模越好性能越高，已开源
中科院、清华等提出SE - Agent自进化框架，突破Claude - 4编程上限。它让智能体系统性修订、重组与精炼思考过程，在SWE - Bench Verified上刷新开源框架SOTA，已开源。
刚刚，人类社交网络巨头Meta收购了AI社交网络Moltbook
Meta收购AI社交网络Moltbook，将其两位核心创作者招致麾下。Moltbook虽被指是‘赛博过家家’，但其建立的智能体验证身份并相互连接的系统机制，是Meta看重的核心价值。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
狂揽6.9K star！！微软又来一款王炸项目，实时跟踪、透明可控，牛皮！
微软开源项目Magentic-UI狂揽6.9K star。它是“以人为本”网页智能助手，基于AutoGen框架，可让用户全程掌控，能实时跟踪、透明可控，有协同规划等功能，适合测试、分析等人员。
马斯克：2036 年，钱将不再重要。
马斯克在《经济学人》访谈节目中表示，2036年AI将远超人类智能总和，迎来富足时代，钱将不再重要。他还预测未来通缩，AI将替代多数工作，也提到AI安全监管、中美AI约束因素等。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
2026 AI Memory最新综述：从理论到实战，一文读懂AI记忆的进化全景
2026年北邮百家MemoryOS团队联合华为发表《Survey on AI Memory》，涵盖AI记忆理论基础、4W分类体系、单/多智能体架构、评估方法与前沿趋势，梳理详尽全景图，还剖析未来挑战与方向。
继Harness之后，“龙虾”JiuwenClaw率先开启“Coordination Engineering”时代
AI工程范式迭代快，行业面临‘定义赶不上进化’的焦虑。华为支持的openJiuwen社区发布新版JiuwenClaw，新增多智能体协同能力，提出‘Coordination Engineering’，实测中表现出高稳定性，可自主完成多项任务。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。