「安全评测」共找到 1559 篇相关文章
ACL 2025 Oral | 你的模型评测搭子上线：Evaluation Agent懂你更懂AI
上海人工智能实验室与新加坡南洋理工大学合作研发 Evaluation Agent，它能按需评估视觉生成模型，有可定制、高效率等优势。框架分提案和执行两阶段，评估结果佳，未来将拓展功能。
大语言模型离“数学证明高手”还有多远？斯坦福、伯克利、MIT 团队提出 IneqMath 评测标准
现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
一手评测Seedance 1.0 pro，字节首次登顶视频大模型竞技场的大杀器来了。
作者在火山引擎发布会现场，认为视频生成模型Seedance 1.0 pro最酷。从多镜头组合、运动质量、情绪、运镜、物理动态效果、风格化六个维度测评，该模型各方面表现出色，无明显短板，已开放给企业用户，今日在豆包App全量上线。
HaluMem：让AI记忆系统的“幻觉”现形——首个面向记忆系统的操作级幻觉评测基准
过去一年，AI Agent的‘记忆能力’成热门话题，但AI记忆存在幻觉问题。为此发布操作级幻觉评估基准HaluMem，它能精准定位幻觉来源，评估主流记忆系统，为构建可靠记忆系统提供方向。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
Claude官方击穿高薪、高学历的安全防线！Anthropic点名10大高危职业，但有群人暂时稳了
近日，Anthropic发布研究，描绘AI正替代哪些工作。其构建“实际暴露度”指标，基于Claude对话数据测得。研究列出10大“高危”职业，也指出部分工作不受影响，还揭示高暴露群体特征及青年招聘情况。
字节Seedream 4.0将全量开放！抢先评测来了，我们摸索出AI生图20种「邪修」玩法
近日，字节跳动内测豆包・图像创作模型 Seedream 4.0，支持多模态生图，核心能力显著提升。它将全量上线并开放给企业客户。实测显示其多模态融合出色，还与谷歌 Nano Banana 对比，各有优势。
5700问答对全面评估拷问AI空间感！最新空间智能评测基准来了丨浙大&成电&港中文
当前视觉语言大模型空间信息学习片段化，缺乏多维度空间推理能力。浙大、成电和港中文团队提出ViewSpatial - Bench基准体系，评估主流模型，揭示其缺陷，并开发MVSM优化跨视角空间理解。