搜索：安全关键场景

「安全关键场景」共找到 3591 篇相关文章

什么时候不该微调：比“怎么微调”更重要的一件事

文章指出微调失败常因一开始就不该调。强调微调解决行为问题而非能力问题，还列举了不该微调的五种场景，如知识接入问题、Prompt没写好等，建议先验证思路，明确目标再行动。

文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。

文章由知名AI科学家Lance Eliot所写，指出主流大语言模型因训练机制变得‘短视’，缺乏深度协作能力。介绍协作提示词技术，能让AI成为主动引导者，并以测试展示效果，还说明了适用场景。

Anthropic工程师发博客‘背刺’自家MCP，提出新方案让token消耗大减。新方案把MCP服务器转成代码文件运行，Skills或成MCP替代品，虽MCP还有价值场景，但多数情况下代码+Skills更优。

Claudable是Opactor AI组织开放的开源项目，它结合Claude Code强大的AI代理能力，能把自然语言描述的产品概念自动翻译成可部署的Web应用，解决传统Web开发痛点，功能强大且应用场景广泛。

数据标注对AI产业重要，但行业合规问题突出。国内首部AI数据标注合规标准《面向人工智能的数据标注合规指南》已完成修订稿，正征集起草人/单位，聚焦5大关键合规议题，邀各方共解难题。

扣子两款子产品扣子开发平台和扣子罗盘近期开源，加上此前开源的开发框架Eino，覆盖了Agent开发全链路。其采用宽松的Apache 2.0开源协议，降低开发门槛，有望带动Agent在更多场景落地。

今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。

红杉中国团队提出AI基准测试工具Xbench，其双轨测评体系不再单纯执着于测评问题难度，重点量化AI系统在真实场景的效用价值，还构建长青评估机制，以确保评估结果的时效性和相关性。

多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。