搜索：大模型安全评测

「大模型安全评测」共找到 8308 篇相关文章

NUS、牛津等联合发布音视频智能综述：系统梳理大模型时代的AVI全景图

NUS领衔近10家机构发布音视频智能综述，系统梳理大模型时代AVI发展全貌，涵盖感知、生成与交互，复盘子方向工作，构建任务蓝图，整理评测体系，总结基础技术，还探讨应用、安全及未来研究方向。

百川智能发布首个循证增强医疗大模型Baichuan - M2 Plus，将循证医学理念融入训练和推理，首创六源循证范式。其在多场景评测中幻觉率低，多国医考成绩优异，已上线百小应APP并开放API。

1月初OpenAI、Anthropic推出医疗产品，百川智能也开源医疗大模型Baichuan - M3，评测成绩突出。王小川表示今年会发布两款ToC产品，还在做硬件，阐述了百川在医疗领域的目标与策略。

华为盘古大模型团队员工自曝内幕，称其受芯片限制，早期算力有限、训练困难。还指出内部存在造假、套壳等问题，如135B V2套壳Qwen 1.5 110B，pangu pro moe 72B套壳qwen 2.5的14b等，导致人才流失。

清程极智推出的AI Ping像大模型API领域的大众点评，用7×24小时实测数据为开发者提供参考，解决信息差和重复劳动问题。它有持续评测榜单、智能路由匹配等功能，还统一了API度量衡，推动选型从经验走向数据驱动。

Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。

HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。

豆包大模型团队与北京交通大学联合提出视觉世界模型 “VideoWorld 2”，无需依赖语言模型，仅靠视觉信息让机器掌握复杂能力。它能完成复杂手工任务，成功率远超主流模型，代码与模型已开源。

DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。

Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。