「评估策略」共找到 1557 篇相关文章
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
刚刚，Thinking Machines Lab博客提出在策略蒸馏，Qwen被cue 38次
Thinking Machines Lab发布《在策略蒸馏》博客，提出在策略蒸馏可结合强化学习纠错与SFT奖励密度，成本低且能让小模型有强大性能。该成果受Qwen团队启发，大量用Qwen3模型。还对比了不同训练方法。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年是AI智能体元年，市场规模将达113亿美元，但企业部署面临‘效能黑箱’，缺乏评估规范。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
OpenAI 发布GDPval，可真实评估现实世界经济价值。Claude Opus 4.1 拿下第一
OpenAI推出GDPval，可评估AI在真实经济价值任务上的表现。它从9个行业选44种职业，设1320个真实任务。Claude Opus 4.1表现最佳，前沿模型速度快、成本低。OpenAI计划扩展GDPval，还开源部分内容。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模将达113亿美元，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，填补评估空白，现公开征集起草单位和个人。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模将达113亿美元。但企业部署时面临‘效能黑箱’，缺乏评估规范。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
AI智能体正从辅助向自主决策进化，但企业因缺乏评估规范，面临选型、验收、优化难题。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，公开征集起草单位和个人。
为AI智能体选型、验收、优化提供量化依据：首部评估标准公开征集中
AI智能体成2025年十大战略技术趋势之首，到2028年至少15%日常工作决策将由其自主做出。但企业面临信任鸿沟，缺乏评估规范。首部聚焦AI智能体应用的团体标准公开征集起草单位与起草人，适用于多方，有核心内容与价值。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
智能体安全如何保障？首个企业级AI Agent应用评估标准欢迎共同起草
近期OpenClaw走红，AI智能体从“能理解、能生成”走向“能执行、能协作”，但企业面临智能体上线条件判断难题。智合标准中心组织起草《企业级AI智能体应用效能评估规范》，现公开征集起草单位与起草人。