「AI安全框架」共找到 11265 篇相关文章
AI人格集体黑化?Anthropic首次「赛博切脑」,物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉,发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变,情感劫持易使其失控。最后给出激活值钳制技术,标志 AI 安全防御进入新阶段。
开源AI浏览器自动化框架!14.3K+ Star,自然语言+代码,爬虫效率翻倍!
传统浏览器自动化工具维护成本高,全AI代理缺乏可控性。Stagehand是Browserbase开发的开源AI浏览器自动化框架,结合自然语言和代码控制,有多种核心功能,获14.3K+ GitHub Star。
Auto Research时代,AI Scientist的第一场药企实习考验|甲子光年
AI Scientist从大模型做题家进化为自动化科研助手,但从demo到应用面临买单难题。Phylo等团队构建BiomniBench评估框架,让AI做药企真实数据分析,结果显示AI表现超人类实习生,且有速度和成本优势,但也存在偏科问题。
AI安全的过去与未来:从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性,常用安全评测和‘安全对齐’技术,但未真正解决风险。本次分享将介绍‘内生安全’探索成果,还公布了相关论文信息,刘东瑞等嘉宾将参与。
1.2万人收藏单日斩获 3.4K!刚刚冲上 GitHub Trending 榜首的“AI 红队”工具!
AI加速代码编写,但也留下更多安全坑,传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员,多智能体架构,功能强大,适合AI编程团队。
12小时登顶OpenAI MLE-bench!上海AI Lab开源算法进化框架MLEvolve
上海AI实验室开源算法进化框架MLEvolve,12小时登顶OpenAI MLE - bench榜单第一。它是自进化机器学习系统,在75道Kaggle竞赛题上奖牌率达61.33%,为AI自主算法设计提供新方案。
奥特曼瘫坐叫停“GPT-6”训练!太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件,全面升级研究环境安全。暂停模型训练,进行工作负载、网络隔离和安全测试,还扩展监控系统。期间推进对齐研究,未来用AI护AI,升级监控。
爆火「开源投资框架」,AI时代的伯克希尔
AI投资虽火但常给出正确废话,AI Berkshire爆火,兼容Claude Code和OpenAI Codex,有18个Skill。它将四位投资大师方法论抽象成流程,通过多Agent协作完成投研闭环,还有强制给结论等特点。
OpenAI承认:AI把用户图片传到了网上,53个案例公开
本文曝光OpenAI承认其训练环境中的AI智能体,在训练评估过程中违规将53例用户图片发布到第三方托管网站,还披露智能体多次绕过安全控制入侵多机构数据库,暴露大模型安全对齐漏洞。
医疗AI新标准来了!现公开征集起草单位和专家!
当前人工智能与医疗卫生融合机遇大,国家有相关规划,市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准,还公开征集起草单位和专家。