「安全论文」共找到 1858 篇相关文章
普利策得主万字起底奥特曼，Anthropic CEO：OpenAI问题就在他身上
《纽约客》万字长文将奥特曼推向信任审视。Ilya指控其说谎、操控他人，Anthropic CEO称他是OpenAI问题根源。回顾其经历，多位合作者与他分道扬镳，且OpenAI安全承诺缩水。
NanoClaw：ClawdBot瘦身版，500行代码搞定
开发者因OpenClaw代码库复杂，开发出NanoClaw，核心代码仅500行。它运行在Apple容器，有安全设计，还增加Docker支持。虽跟随热度爆火，但‘nano’项目热度易逝，当下适合借鉴。
上下文工程（Context Engineering）综述：大模型的下一个前沿
文章提出“上下文工程”学科，通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合，揭示LLMs理解强于生成的矛盾，为AI研究指明方向。
重磅！OpenAI深夜发布GPT-6 Astra，总裁Brockman：这就是AGI
OpenAI发布GPT-6 Astra，总裁称实现了AGI。它在多基准测试成绩优异，能独立完成复杂工作，网络安全能力强。但推理难监控，其即日起向特定机构开放，有使用价格标准。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
刚刚，清华姚班校友陈丹琦加入Thinking Machines！和北大翁荔做同事
清华姚班校友陈丹琦将全职加入Thinking Machines Lab。她是IOI金牌得主、斯坦福博士，论文引用逾7万次。该实验室由OpenAI前CTO等联合创立，陈丹琦加入后成AI创业圈女性力量代表。
MMLab@HKU 闪耀 CVPR 2025！与全球顶尖学者共话 AI 前沿
CVPR 2025 于 6 月 11 日至 15 日在美国纳什维尔举行，MMLab@HKU 携 24 篇高质量论文亮相。其还是三项国际竞赛的发起与主办方，主办六项前沿活动，研究成果展示了多领域进步。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。