「AI安全评估」共找到 10538 篇相关文章
混合数学编程逻辑数据，一次性提升AI多领域强化学习能力 | 上海AI Lab
上海AI Lab的OpenDataLab团队通过大规模实验剖析RLVR在多领域推理机制。构建多领域评估框架与定制奖励策略，基于Qwen2.5 - 7B系列模型联合训练，有多项关键发现，为构建AI推理模型提供参考。
OpenClaw们狂奔，谁来焊死安全车门？
2026年开年，AI进化成“行动式智能体”，带来便利的同时，也引发恐慌，传统安全思维失效。江苏通付盾提出前瞻性智能体安全框架，已在“大群空间”多智能体协同平台落地。
创始人自曝让儿子辍学用AI上课、水平超同龄人！俞敏洪最先押注的“AI学校”，负债9亿不垮、现在要开到美国了
松鼠Ai创始人栗浩洋让儿子辍学用AI上课，称其水平超同龄人。该公司由俞敏洪最早投资，曾负债9亿，后转型推出学习机业务。如今计划将‘AI学校’开到美国，正做相应市场适配调整。
ChatGPT 评估员工绩效，评得是真能力吗？
绩效考核季，不少管理者用 ChatGPT 生成绩效评语，认为高效。但文章指出，把关键管理工作交 AI 是‘职业肌肉’萎缩，还给出管理场景下 AI 使用清单，网友也对 AI 辅助绩效评估展开热议。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。
Agnes：不做通用型智能体丨对话全民AI应用平台Agnes AI
量子位智库对话Agnes AI创始人Bruce Yang，探讨多智能体在AI产品的应用。Agnes AI以Multi Agent架构为核心，上线四月日活破20万。其介绍了核心功能、单多智能体差异、评估维度等，还谈及目标人群、市场规模等内容。
评估工程正成为下一轮 Agent 演进的重点
文章指出传统软件工程测试方法难用于 AI 系统，促使评估工程成 Agent 演进重点。它贯穿 AI 生命周期，正走向体系化。介绍评估工程发展阶段，还提及阿里云 RM - Gallery 和云监控 2.0 实践。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
Auto Research时代，AI Scientist的第一场药企实习考验｜甲子光年
AI Scientist从大模型做题家进化为自动化科研助手，但从demo到应用面临买单难题。Phylo等团队构建BiomniBench评估框架，让AI做药企真实数据分析，结果显示AI表现超人类实习生，且有速度和成本优势，但也存在偏科问题。