搜索：大模型安全评测

「大模型安全评测」共找到 8308 篇相关文章

Anthropic训了一个10万亿参数的模型，然后说：太危险了，不卖

Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。

南洋理工大学陶大程教授团队联合发布评测报告，揭示扩散语言模型在智能体能力上有系统性缺陷，落后自回归模型。还分析其失败原因，提出评测框架，明确能力边界并给出研究建议。

一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。

斯坦福HAI《2026年AI指数报告》指出，中美AI模型性能差距基本消除，AI能力加速发展且普及快，但也存在安全基准滞后等问题。报告含15个主要结论，已成为业界重要参考。

本文为《2025年度盘点与趋势洞察》系列内容，传神语联创始人何恩培认为通用大模型微调成行业模型是伪命题。他表示孪生智能体能砍70%线下复诊工作，还分享了医疗AI发展、中医和西医落地方向及突破方向等见解。

动画视频生成评估挑战大，现有模型处理动画视频力不从心。哔哩哔哩推出AniSora综合系统，支持一键生成多种动漫风格视频镜头，在角色和动作表现上出色，在多维度超越当前先进模型。

Current Robotics 发布跨本体、多模态物理世界模型 CurrentWorld-0，它从真实数据学规律，整合跨本体、多视角和力触预测，可评测机器人，解决动作可控性等问题，让评测成训练数据入口。

这是首篇系统拆解“大模型Agentic推理框架”的综述，不聊训练，只聚焦如何把LLM组织成会思考、协作、调工具的Agent，横跨科学发现、医疗、软件工程、社会经济模拟四大战场，给出统一语言、视角和评测。

阿里国际AI团队提出CIGEval，这是基于多模态大模型驱动的图像生成评估智能体框架。它集成多功能工具箱，通过任务拆解与工具调度提升评估准确性与可解释性，已在ComfyUI - Copilot上线。

Anthropic发工程博客指出，AI编程评测排行榜上排名前列的模型分差小，而运行环境硬件配置能让分数波动6个百分点。同一模型在不同沙箱策略下分数不同，资源配置影响评测结果，排行榜分数差距或因硬件。