「安全评估」共找到 1557 篇相关文章
李曼玲、李飞飞、吴佳俊等联手：评估具身大模型的新范式！
全新的具身模型空间能力评估范式Theory of Space突破传统局限，考察模型在动态环境构建、修正和利用空间信念的能力。该论文被ICLR 2026接收，研究对前沿多模态大模型评测，揭示其空间认知能力边界。
这帮清华的，造了一个让龙虾“安全着陆”的新物种
在OpenClaw热潮中，隐私保护缺位成企业和开发者难题。无问芯穹推出InfiniClaw Box，独创‘三段式’架构，适配全模态信源，解决数据安全与模型能力兼顾问题，还与多家企业合作拓展应用边界。
刚刚，OpenAI 再次开源！安全分类模型 gpt-oss-safeguard 准确率超越 GPT-5
OpenAI 开源安全分类推理模型 gpt-oss-safeguard，有 120b 和 20b 参数量版本，采用 Apache 2.0 许可证。它能直接理解策略文档分类内容，推理能力超 GPT - 5，性价比高，虽有局限但仍是开发者利器。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
AI能否「圣地巡礼」？多模态大模型全新评估基准VIR-Bench来了
来自日本高校和企业团队提出多模态大模型评估基准 VIR-Bench，用于评测 AI 对旅行视频中地理位置与时间顺序的理解。它将任务拆解，构建数据集，实验显示模型虽有改进但性能远未达标，指明了大模型进化方向。
2026年了，我们还在用爱迪生试灯丝的方式评估World Model
文章围绕World model展开深度讨论，界定其概念，分析生成派、JEPA派、空间智能派三条技术路线，指出评估比LLM难，提及游戏化benchmark可能是破局点，还强调具身进展由数据驱动，Ego - View或为泛化关键。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模爆发式增长，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现公开征集起草单位和个人。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
OpenAI Atlas等AI浏览器提升网页自动化效率，但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak，混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑防线，适用于数据敏感场景。