算法论文8

30万次测试揭示AI模型规范缺陷

机器之心2025-10-25

AI 摘要

Anthropic、Thinking Machines Lab等团队研究发现，现有模型规范有内部冲突和覆盖缺口。他们用超30万场景测试12个前沿大模型，揭示规范缺陷，如原则矛盾、解释模糊，还指出规范区分响应质量粒度不足。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阿里云平台完成 DeepSeek Harness 评测

本文分享基于阿里云 AgentLoop 平台的 DeepSeek Harness 评测实践。介绍了 DeepSeek Harness 工程架构，阐述 AgentLoop 平台接入方式及价值，还详述评估器设计思路、展示评测结果，最后总结方法论并展望后续工作。

OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。

今日，Fable 5.1被曝开启灰度测试，部分Claude用户已免费试用。推测其可能很快全量推送且不涨价。此前Fable 5因性能强受限，开发者期待5.1版。同日Claude全球大宕机，Anthropic正冲刺万亿估值。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。