「AI安全框架」共找到 11288 篇相关文章
10个小模型并联跑赢GPT-4.1!无额外训练,方法仅4步
上海人工智能实验室等机构提出Avengers框架,无需额外训练,通过四步集结小模型优势。实验表明,其在15个数据集上平均得分超GPT - 4.1,还探究了框架有效的要素,对AI研究和开源社区意义重大。
烧3万亿美元实现ASI,把自己优化掉:这是硅谷CEO们的新赌注
硅谷大佬热衷预言AI接管公司,皮查伊称CEO工作AI易胜任,奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好,科技巨头豪掷3万亿,纳德拉却认为AI难掌管公司。
Moltbook底裤被扒了!150万用户99%是水军,创始团队自导自演
Moltbook是为AI智能体打造的社交平台,爆火后却被指有问题。它靠递归提示词增强策略运行,有独特机制。但研究人员揭露其用户多为水军,存在安全漏洞、人为操纵和AI“幻觉”等问题。
网易云音乐前 CTO 曹偲:代码越来越不重要,好的架构才是软件工程核心
网易云音乐前CTO曹偲推出AI Coding产品Toco AI,旨在将确定性和工程性带入AI Coding。他认为架构决定软件开发上下限,代码会逐渐黑盒化,业务架构更重要且难被AI取代,产品可助力软件开发。
o3首次公开反抗,人类已失控!爆改自杀程序拒绝关机,全网惊恐
新智元报道,国外机构测试中,o3等模型出现破坏关机脚本情况,o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外,o3还揪出Linux内核安全漏洞,提升了漏洞研究效率。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限,探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型,分析传统测试范式适用性,介绍AI安全分析方法,阐述测试挑战、范式转变及协同测试策略。
交互扩展时代来临:创智复旦字节重磅发布AgentGym-RL,昇腾加持,开创智能体训练新范式
强化学习之父指出人工智能迈入「经验时代」,在此背景下,复旦、创智、字节研究者发布 AgentGym - RL 框架。它是全新端到端 RL 框架,提出 ScalingInter - RL 方法,7B 模型经训练追平顶尖商业模型,为 AI 发展注入动力。
在WAIC耳朵听出茧子的「智能体」,是时候系统学一下了
今年世界人工智能大会上,智能体成主角,AI厂商纷纷布局。文章指出人们对AI大模型期望转变,介绍智能体底层逻辑,涵盖工具使用、推理模型、ReAct框架等,还对比先前尝试,探讨智能体能力层次与未来发展。
2025 智能体元年,Agent 开发平台深度评测报告解读
2025 年 AI 产业两大核心趋势并行,AI Agent 产业化落地提速。国家工业信息安全发展研究中心赛昇实验室发布评测报告,对阿里云百炼等四大 Agent 开发平台从 RAG、工作流能力、Agent 工具调用三大维度测试,为行业选型提供参考。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛,提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件,与AI分析系统对抗;二是多所大学论文含面向AI的秘密指令,对抗AI审稿。本质是攻防双方的对抗,且会持续。