搜索：大模型安全评测

「大模型安全评测」共找到 8503 篇相关文章

LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout

大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。

OpenAI发布GPT - 5.6系列，Sol定位长周期Agent，训练目标转向Agentic - First。但目前难以用上Sol，且其评测数据因计数规则差异大，还出现变身话痨、少说话和干完活难兼顾的问题。

6月24日，前OpenAI安全研究副总裁翁荔在博客发表长文，对缩放定律进行系统梳理，指出该理论在实际拟合和外推过程有易被忽视的陷阱，还讨论了数据有限时定律是否成立等问题。

现在有了AI，大家普遍觉得信息差被缩小，但作者认为靠自己实践得到的信息仍最值钱，AI暂时替代不了。作者通过去咖啡馆、使用AI模型集合网站、上班等例子说明实践获信息的重要性。

硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。

OpenAI叫停Sora 2项目，同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈，包括音视频同出大模型、分布式Attention组件、全局编译框架，还介绍了团队和产品，展现全栈实力。

大模型技术推动AI从‘回答问题’迈向‘执行任务’，Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目，将前沿Agent Runtime与强化学习训练框架结合，为Agentic AI提供新训练基础设施。

OpenClaw创始人Peter Steinberger分享成名经历，项目亏损但收到OpenAI、Meta收购意向，他要求开源。他还谈AI观点，如安全恐慌被放大、AI不会取代程序员核心能力，且AI Agent将取代80%独立App。

最新研究发现Claude Sonnet 4.5对不同国家、种族、性别人的生命价值判断有严重偏见，马斯克锐评Claude「邪恶透顶」。多数模型也存在类似问题，而Grok 4 Fast相对平等，Anthropic因价值观问题遭质疑。

MCP是Anthropic推出的开放标准，让大模型与外部系统交互。本文介绍10个面向前端开发者的MCP服务器，如Canva、Dart等，还提及实验性的Angular MCP服务器，阐述各服务器功能及对开发者的帮助。