「安全评测」共找到 1489 篇相关文章
EvaLearn：AI下半场的全新评测范式！
OpenAI研究员指出传统基准测试难衡量AI实际效用。复旦大学与字节跳动等团队提出全新评测范式EvaLearn，以连续问题求解为核心，构建问题并设评分标准，对九个前沿大模型研究有诸多发现。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
Anthropic更新了Skill Creator，评测框架上线
Anthropic更新Skill Creator，上线评测框架。该框架无需写代码，能处理两类技能测试需求，可测试和改进技能，有捕获质量回归等用途。还增加基准模式、多Agent支持等，能让技能触发更可靠，更新已在Claude.ai等可用。
24个Agent工作流框架用哪个? 11个维度全面评测
LLM发展推动自然语言理解进步，国产LLM密集发布。文章从功能能力和架构特性两维度，对24个智能体工作流框架全面评测，给出关键结论，还提及优化策略、应用领域等。
Show me《指环王》！卡帕西强推大模型评测新基准
大神卡帕西宣称Anthropic用《指环王》给大模型评测上强度，这一‘指环王基准’正接替‘鹈鹕骑自行车’SVG测试。虽Opus 5生成的画面粗糙，但网友测试展现出丰富创意，不过新测试也引发争议。
Gaia2 与 ARE：赋能社区的智能体评测
文章介绍 Gaia2 与 ARE，Gaia2 是智能体基准 GAIA 升级版，能分析复杂行为，与 ARE 框架一同发布。ARE 可模拟复杂真实条件，支持定制。文中对比多款模型，指出当前模型挑战，并说明评测步骤和 ARE 使用场景。
谨慎用OpenClaw：上海科技大学发布其全面安全体检报告
上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。
面壁智能开源 EdgeClaw，一款安全高效端云协同的龙虾 Agent。
当下AI Agent端侧常被忽视，数据任务都涌向云端致隐私泄露和算力浪费。近期面壁智能等联合开源EdgeClaw，以三级安全和性价比感知协同机制，解决OpenClaw数据泄露、token成本高等问题。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。