搜索：智能体安全评估

「智能体安全评估」共找到 4639 篇相关文章

视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL

数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。

文章介绍了27.2k Star的FastMCP，它是Python MCP应用框架，能让普通Python函数成为MCP工具。讲了其适合场景、省事原因及上线安全边界，还给出了适用人群和注意点。

5月13日AI圈有两件大事，何恺明团队发布语言模型ELF，面壁智能开源MiniCPM-V 4.6。二者显示AI正从‘堆算力’转向‘省算力’，拉开AI轻量化浪潮序幕，未来小模型或成关注方向。

作者分享开源的AI短剧生成工具，它能根据剧本完成智能分镜、生成视频片段等一条龙服务，采用全局种子+风格继承改善人物和场景一致性，有分镜编辑器可手动调控，适合多种人群。

美国政府给Anthropic贴上「供应链风险」标签，OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI，备忘录外泄使与国防部解决方案告吹。虽被封杀，但有巨头支持，营收反超OpenAI，其安全红线获广泛支持。

港大开源的DeepTutor是AI个性化学习助手，利用多智能体协作等技术，有文档问答、难题解析等四大核心功能，能构建专属知识库，提供全流程辅导，为学、练、研打造一体化平台。

OpenAI将在10月6日DevDay推出Agent Builder，用户能通过可视化画布拖拽构建AI智能体工作流，连接模型、工具等编排任务。其对手是n8n、Zapier，可集成第三方服务，降低AI应用开发门槛。

腾讯 CodeBuddy IDE 海外版开启内测，国内版预计 8 月上线。它定位‘下一代 AI 全栈高级工程师’，内置 4 个智能体，助力全链路研发。腾讯内部超 43% 代码由 AI 生成，编码时长缩短 40%。

Google DeepMind团队开发的DataRater可全自动评估数据质量，用元学习筛选有价值数据，提升模型训练效率。它能减少计算量、提高性能，在低质量数据集效果佳，还能跨模型规模泛化。

ClawBench让AI在144个真实网站执行153个日常任务，结果惨烈，如Claude Sonnet 4.6每三任务翻车两个，GPT - 5.4仅完成10个。它还揭示AI在真实环境的问题，为评估模型提供标尺。