搜索：智能体安全评估

「智能体安全评估」共找到 4681 篇相关文章

DPO与GRPO谁更胜一筹？港中文、北大等联合发布首个系统性对比研究

港中文、北大等团队首次全面对比DPO和GRPO算法在自回归图像生成中的应用，评估其在域内、域外性能，探究奖励模型及扩展策略的影响，为开发高效RL算法提供新思路。

前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。

毕业季AI专业毕业生择业有疑虑，AI下半场竞争重心转移。腾讯覆盖领域广、业务耦合强、有变现案例，契合AI下半场人才成长环境，其青云计划“薪酬上不封顶”，今年筛选标准升级。

今年5月多款AI眼镜新品上线，市场竞争激烈。硬件上芯片向高端手机靠拢，软件借AI大模型落地功能，还出现代工产业链。不过，国内AI眼镜在AI和软件功能上有不足，与市场需再磨合。

豆包的一句话P图功能进化，其图像编辑模型SeedEdit 3.0全量上线，AI修图进入3.0时代。用自然语言就能精准编辑图片，在文字编辑、局部修改等方面表现出色，还突破以往模型瓶颈，成设计师利器。

OpenAI 早期投资人里德·霍夫曼新书《AI 赋能》中文版推出。书中提出 AI 应是放大人类行动力的工具，还阐述“超级能动性”概念，强调技术与人类深度共生，批判盲目创新，主张技术锚定人文价值。

本文介绍AI模型自我进化方向的进展，涉及多机构的相关论文。如受“哥德尔机”启发的“达尔文哥德尔机”可自我改进；还有“自我奖励训练”“MM - UPT”“UI - Genie”等方法，展现AI自我进化潜力。

微软在Build 2025大会发布开源项目NLWeb，基于MCP构建，能让任何网站秒变AI应用。它是开放协议和工具集，可添加自然语言对话界面。与其他协议对比有优势，已有组织试用，不过企业采用态度不一。

何恺明团队推出生成模型MeanFlow，它跳脱传统训练范式，无需预训练等，仅一次函数评估就能完成生成。在ImageNet 256×256上表现优越，缩小了一步与多步模型性能差距。

最新研究推出 EMMA 基准测试，揭示顶尖多模态大语言模型在深度视觉与文本融合的复杂多模态推理上显著不足。该研究已被 ICML 2025 接收，代码数据开源。实验表明，现有模型与人类专家差距大，视觉推理是核心瓶颈。