搜索：智能体防御框架

「智能体防御框架」共找到 4680 篇相关文章

攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊

华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。

近期Harness Engineering讨论火热，Harness是围绕AI模型的支撑架构，Anthropic用其突破AI局限，解决AI完成复杂任务时的偷懒问题，还通过多智能体架构用于前端设计、软件开发，经实战检验效果良好，后续还对其进行简化。

目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。

Cursor 推出 iOS 移动应用 Cursor Mobile，与桌面版打通，可远程管理编程智能体，还支持语音输入。OpenClaw 也官宣有原生移动应用，登陆 iOS 和安卓平台。这标志开发模式向移动化转变，但也有成本等问题。

Caracol是意大利工业级增材制造公司，以机器人手臂为支撑，配合自研挤出头与软件生产工业部件。其产品能大幅缩短生产周期、降低成本，2025年融资、收购、扩产，还参与太空项目，探索具身智能。

当前主流图像生成模型多步策略依赖手工静态调度规则，存在需大量调参、无法适配样本特性的问题。本文提出AdaGen框架，通过强化学习训练策略网络，在四大生成范式上实现性能提升与效率优化。

AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。

2025年1月27日，月之暗面发布并开源Kimi K2.5模型，它是迄今最智能全能的模型，在多任务有出色表现。支持多模态输入，具备新能力，还推出Kimi Code工具，集群能力也开启Beta测试。

AI跨越关键门槛能完成有经济价值的工作，但也可能产生大量无用内容。OpenAI新测试显示大模型进步快，虽暂难取代人类工作，但智能体工作续航能力大增，人类对其使用方式决定未来。

苹果一篇新论文在 arXiv 公开后匆匆撤稿。该论文揭示基于 TPU 的可扩展 RL 框架 RLAX，用了谷歌 TPU、亚马逊云及阿里 Qwen 模型，还介绍其架构、策略支持等，实验结果亮眼，也分享 Debug 过程。