搜索：自进化AI智能体

「自进化AI智能体」共找到 11023 篇相关文章

SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」

在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。

数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。

多智能体AI系统任务失败后，开发者常难定位问题。PSU、杜克大学与谷歌DeepMind等机构提出「自动化失败归因」，发布Who&When数据集，探索三种归因方法，虽目前效果欠佳，但为打造可靠系统提供方向。

10月17 - 19日，第二届瓦卡奖AI视觉创意大赛在深圳举行。期间AI全球视觉工作坊汇聚专家探讨AI与艺术融合，竞技日集结全球AI视频厂商民间团队参赛。大赛还发布国内首部《AI视觉创意应用蓝皮书》。

AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。

2026年4月27日，中山大学HCP实验室研发的PhyAgentOS开源框架，助力11岁开发者Arjun获全球Physical AI技术挑战赛冠军。该框架降低开发门槛，打通执行闭环，加速具身智能落地。

纳米AI更新发布L4级多智能体蜂群系统，将“协作”能力写入Agent系统底层。该系统采用三层架构管理运行逻辑，通过协作空间与A2A通信协议配合，实测稳定性佳。平台降低开发门槛，后续规划聚焦多方向。

李飞飞押注的空间智能是世界模型主流路线之一，旨在让AI生成可操作三维世界。但当前AI生成世界存在“中看不中用”问题，构建“站得住”的世界面临速度与状态瓶颈，生境科技等实践提供了解决思路。

据《彭博社》报道，Meta 将重组超级智能实验室及相关 AI 部门为四个新部门，某些高管预计离职。Meta 此前大力挖角，此次或从依赖内部开发转向集成第三方模型，扎克伯格强调对超级智能的推动。

李飞飞旗下World Labs与光轮智能联手，瞄准具身智能「规模化评测」问题。World Labs的Marble是生产力工具，而光轮智能有自研仿真技术体系，双方合作让规模化评测成为可能，具身智能迈入评测驱动时代。