「智能体安全评估」共找到 4668 篇相关文章
SeePhys Pro：重新审视多模态物理推理中的视觉理解与训练收益
来自中山大学等的研究者提出SeePhys Pro，是面向多模态物理推理的细粒度评测与训练诊断框架。发布了benchmark、训练集等，测评显示当前模型在信息模态转变时不稳定，为模型评测和训练研究提供基础。
Docker 通过 Cagent 提供 AI 代理确定性测试
AI 代理系统普及，工程团队面临测试概率性输出的挑战。Docker 的 Cagent 是一种 AI 代理确定性测试方法，采用 proxy - and - cassette 模型，虽处早期，但揭示了 AI 代理测试的不同方向。
开源项目 | 用自然语言做视频剪辑，人人都能用的 AI 视频剪辑工具
FireRed - OpenStoryline是开源AI视频剪辑智能体，理念是‘你说话，它剪片’。工作流程为‘理解→执行→输出’。具备智能素材搜索、文案生成等多项能力，适用于多场景，介绍了安装方式、优缺点。
龙虾爆出漏洞，斯坦福 OpenJarvis 重新定义本地 AI Agent，附实测
OpenClaw开源项目虽火但漏洞多，安全堪忧。斯坦福发布本地优先的个人AI Agent框架OpenJarvis，其架构模块化，数据本地处理更安全，安装简单，还能让Claude Code部署，值得关注。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型，提升了我国AI系统自主安全防控水平，该模型已全面开源。
GitNexus 开源代码库知识图谱引擎，效果惊艳!
GitNexus 是在浏览器运行的客户端代码智能工具，能将代码库转化为知识图谱，内置 RAG 智能代理。有 CLI + MCP 和 Web UI 两种使用方式，支持多种主流语言，还提供详细文档。
“整个行业骗了公众太久！”Anthropic CEO自爆内幕：私营大厂掌控人类命运，我也深感不安
本文梳理了Anthropic CEO呼吁AI研发限速后引发的全行业论战，梳理提案细节、各方核心质疑，揭露私营AI大厂掌控技术背后的权力与监管分歧。
为什么你的 AI Agent 总是用不起来？答案在 Skills
文章围绕AI Agent的Skills展开，介绍其范式价值，如从“单一智能”到“模块化智能”；还提及知识沉淀、跨平台能力迁移等作用，以及对人机关系、人力市场与劳动结构的影响。
燃尽、重启、爆火：Clawdbot 创始人的 35 分钟访谈实录
本文是 Clawdbot 创始人 Peter Steinberger 的访谈实录。他曾经营 PSPDFKit 13 年，后经历三年倦怠期。2024 年受 Claude Code 启发，10 天做出 Clawdbot，几周内 GitHub 星标近 9 万。还谈及模型看法、改名风波及产品前景等。
深入感知级别图像理解：UniPercept 统一图像美学、质量与结构纹理感知
多模态大语言模型在语义级任务表现卓越，但在感知级图像理解有短板。上海人工智能实验室等机构联合发布 UniPercept，构建感知属性定义系统与基准测试集，训练强基准模型，在多方面表现超现有顶尖模型，应用潜力大。