搜索：智能体防御框架

「智能体防御框架」共找到 4640 篇相关文章

独家｜地平线前高管牛建伟成立叮当动力，专注空间智能，获地平线领投数千万元投资

《AI科技评论》独家消息，前地平线智能座舱产品线总经理牛建伟创立叮当动力，专注空间大模型的通用具身智能，获地平线领投数千万元种子轮融资。牛建伟经验丰富，团队提出独特解决方案，产品聚焦多元场景。

现有的评测基准无法衡量多智能体系统内部的协作效率、沟通质量和竞争策略。为此，伊利诺伊大学厄巴纳 - 香槟分校的研究者推出 MultiAgentBench，能全面评估 LLM 多智能体系统协作与竞争能力。

上海人工智能实验室推出深度科研智能体FlowSearch，它由动态结构化知识流驱动，有三大核心模块。在多个科研基准上性能领先，能让科研更高效，标志科研智能体迈向新阶段，还为未来系统奠定基础。

2025年7月28日，在世界人工智能大会相关论坛的圆桌对话里，来自不同行业的实战派探讨企业级AI智能体落地。他们分享落地踩坑经验、应对数据等问题的办法，还预测了未来智能体大规模应用的行业。

9月2日消息，前字节跳动Seed团队强化学习专家孙鹏博士加入星尘智能，负责机器人强化学习方向。星尘智能有技术、资本和商业优势，孙鹏经验丰富，此次加入将助力其强化学习后训练发展。

合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。

RockAI创始人刘凡平在量子位MEET2026大会提出，AI下一阶段要让模型“活起来”，实现硬件觉醒。他认为为Token付费愚蠢，应关注端侧智能，突破Transformer和反向传播算法，群体智能是迈向通用人工智能新路径。

李飞飞在人工智能聚焦语言模型时关注空间智能。她指出当前AI局限，亲自撰文阐述构想。构建具空间智能的世界模型挑战大，但应用潜力大，如创意、机器人、科研医疗教育等领域，能赋能人类。

强化学习之父Richard Sutton在演讲中介绍OaK架构，认为它是通向超级智能的路径。他回顾对简单通用AI智能体架构的追求，强调从经验学习、拟合世界的重要性，还指出实现该架构需八个步骤，虽只是愿景但提供了发展路线图。

文章介绍了自进化AI，其核心是执行、评估、进化的反馈循环，能自动修改Prompt和工作流。还讲解了SEW、TextGrad等优化器原理，并以SEW为例展示逻辑，最后推荐开源框架EvoAgentX。