搜索：大模型安全评测

「大模型安全评测」共找到 8308 篇相关文章

英伟达揭示RL Scaling魔力！训练步数翻倍=推理能力质变，小模型突破推理极限

学界对强化学习能否让模型学会新推理技能争论已久，过去研究多悲观。英伟达研究指出，问题源于任务在基础模型训练数据中过度呈现及训练步数不足。其ProRL框架提升训练步数，释放小模型潜力，还构建技术组合拳。

上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。

面壁智能开源全模态模型MiniCPM-o4.5，能边看边听还主动抢答。它引入全双工多模态实时流机制，在多方向达全模态模型领先水平。该模型是端侧原生，将与开发板配套，助力端侧智能硬件开发。

8月13日，DeepSeek开源Agent Harness dsh引发行业对“Harness”的关注。近日，MirroS联合多机构发布HarnessEval，将其概念引入评测系统。它使评测从Metric到Harness，形成可执行评测系统，已落地于交互式世界模型。

黄仁勋分享支持开放权重模型的联名信，NVIDIA、Google等公司联署，Anthropic缺席遭网友讨伐。Anthropic研究人员回应引争议，这场讨论或存在错位，分歧关键在于发布前评测能否支持模型权重长期外授。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多问题模拟复杂推理场景。结果显示，DeepSeek - R1等模型高压下性能大幅缩水，REST能拉开不同模型差距，还揭示评测方法局限。

北大团队推出全球首个面向古希腊陶罐的3D视觉问答数据集VaseVQA - 3D，配套专用视觉语言模型VaseVLM。传统模型面对文化遗产复杂对象有不足，新数据集和模型让AI迈向‘文化考古Agent’，未来将拓展到更多领域。

文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多个问题模拟多任务推理场景。测试发现即便顶级模型如DeepSeek - R1在“高压”下准确率也骤降，该框架能揭示模型差异，为评测提供新范式。

10月15日，清华万格智能团队“基于类脑架构的下一代通用模型与智能体生态”获中国国际大学生创新大赛（2025）冠军。团队由三个清华本科生创立，此前已完成融资，估值达2亿美元。其智人HRM模型有诸多优势，还研发出顶尖气候预测专家模型。