「安全范式」共找到 1860 篇相关文章
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
程序员从此不再写代码！红杉专访Codex团队，o3白菜价真相曝光
红杉专访OpenAI Codex团队，揭示AI编程未来。Codex从代码补全演化为智能体，强调委托心态，开发者从动手转向审核。还爆料OpenAI内部有递归自我改进的AI Alice。
打破AI能力的惯性评估方式，红杉中国推出全新双轨基准测试xbench｜甲子光年
红杉中国推出全新AI基准测试工具xbench，采用双轨评估体系，构建多维度测评数据集，追踪模型理论能力上限与Agent实际落地价值。还采用长青评估机制，首期发布两个核心评估集并给出综合排名，公开后邀各界完善。
何恺明等降维打击！彻底颠覆AI生图，无需预训练一步到位
何恺明团队推出生成模型MeanFlow，它跳脱传统训练范式，无需预训练等，仅一次函数评估就能完成生成。在ImageNet 256×256上表现优越，缩小了一步与多步模型性能差距。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
当AI开始重写自己：EverMind的自进化智能体框架Raven，正在定义数字生命的下一个形态
机器之心发布文章，介绍 EverMind 基于自研记忆系统 EverOS 发布自进化 Agent 框架 Raven。阐述其研发背景，指出传统 AI 无状态问题。还讲了 EverOS 特点、数字生命演进四阶段，以及 Raven 技术逻辑、对用户和开发者的价值等。
刚刚，OpenAI首席未来学家离职！曾被马斯克骂蠢驴
OpenAI首席未来学家Joshua Achiam宣布7月24日离职，他在该公司工作9年，曾领导使命对齐团队。他未透露离职原因，称思考已久。此前他曾打断马斯克，被骂“蠢驴”。OpenAI安全线近年人员变动频繁。
GPT-5.6紧急叫停！OpenAI最强模型被迫「一客一审」
因网络安全考量，OpenAI最强模型GPT-5.6被紧急叫停，进入「逐个审批」时代，先有限预览，客户访问权限逐一审批。开发者已发现其相关代码，它在前端UI设计等方面实力大涨，但发布开关被拿走。六月三大旗舰模型集体卡壳。