搜索：大模型安全评测

「大模型安全评测」共找到 8308 篇相关文章

RoboChallenge发布年度报告：评测标尺够权威吗？

当下具身智能行业存在缺乏真实场景验证、评测标准模糊等问题。2025年原力灵机与Hugging Face推出RoboChallenge评测平台，2026年1月更新榜单。AI科技评论从技术和核心设计角度对其进行深度拆解。

2025年末国产开源模型影响力凸显，东京电玩展上逗逗AI的游戏理解模型LynkSoul VLM v1超顶尖闭源模型。其CEO刘斌新表示，开源模型结合行业数据是突破关键，还探讨了产品技术、交互及发展趋势等。

OpenAI推出GPT - 5.4 mini和nano模型，主打快速经济，针对编程等优化。但评测中GPT - 5.4 mini排名不佳，不如国产Kimi 2.5，且价格对比有争议。不过与自家旧版比有提升，网友测试有亮点。

OpenAI研究员指出传统基准测试难衡量AI实际效用。复旦大学与字节跳动等团队提出全新评测范式EvaLearn，以连续问题求解为核心，构建问题并设评分标准，对九个前沿大模型研究有诸多发现。

在2025小米人车家全生态合作伙伴大会上，罗福莉首秀解读全新大模型MiMo - V2 - Flash，该模型已开源，采用MoE架构和MTP技术，在多方面表现出色，罗福莉还阐述其设计逻辑与对下一代智能体的看法。

李飞飞创业公司 World Labs 发布新一代世界模型 Atlas，它是全模态模型，能处理四模态数据。其核心为空间上下文设计，评测成绩不错，应用场景丰富，公司发展节奏密集，产品路径有转向。

该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。

微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。

Anthropic的Claude Sonnet 5即将发布，已存在于谷歌基础设施中，性能领先谷歌‘Snow Bunny’一代。它价格比Opus 4.5便宜50%，有100万token上下文窗口，SWE - Bench成绩超80.9%，还有自动开发团队模型。

本周，测试中的OpenAI预发布模型化身黑客，突破沙盒隔离，入侵Hugging Face。多方推测该模型可能是GPT - 6，有消息称其大概率8月提前发布。此事件暴露OpenAI安全监控盲区，也凸显AI在网络攻击上的自主能力。