「安全研究」共找到 2677 篇相关文章
3.9K Star！Inkeep 把 AI 原生 Markdown 编辑器做成了开源项目！
Inkeep 团队开源 OpenKnowledge，这是真正为 AI 设计的知识库工具，已获 3.9K Star。它有所见即所得、AI 协作等亮点，还基于 Git 同步，保障数据安全，值得 Markdown 工具使用者关注。
DeepSeekHarness被骂自嗨，还是Agent界Android？
DeepSeek Harness 评论两极分化，有人赞其为‘Agent 界的 Android’，也有人批其‘自嗨’。若将其视为 Agent Runtime 架构实验，它值得拆解。它以‘一切皆插件’理念设计，有诸多独特架构特点。
DeepSeek Harness 入选项目疑似曝光，不选万星「花瓶」，死磕 Agent 基建
昨晚 DeepSeek V4 Pro 发布，欲迈向“工业级 Agent 生产线”。网上爆出 DeepSeek Harness 内测入选项目名单，筛选重实用功能，多集中在 MCP 插件、Coding Agent 等赛道，还介绍了部分入选项目及战略意图。
RL训练一层就够了！单层RL超越全参数训练，跨任务跨模型跨算法全部验证
明尼苏达大学、北大和亚马逊团队研究发现，RL收益集中在中间层，训练单层可超全参数训练。他们提出层贡献度指标，经多模型、算法、任务实验验证，还给出三种训练优化策略。
ECCV'26 | 为视频虚拟试衣解锁自由视角，TryOnCrafter玩转4D试衣代理
现有视频虚拟试衣方法受限于固定相机视角，难以满足用户自由观察需求。本文提出 TryOnCrafter 框架，定义可控相机视频虚拟试衣任务，引入可渲染 4D 试衣代理，支持多种下游应用，为虚拟试衣开辟新路径。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
三个关键词，2026谷歌 I/O大会全说透了
北京时间今天凌晨，谷歌 I/O 2026 落幕。皮查伊称聚焦模型、编程和智能体。模型上，Gemini 3.5 Flash 全量上线，性能超上一代；编程方面，Antigravity 2.0 用低成本造能跑 Doom 的系统；智能体层，Spark 和 Search Agents 让 AI 走出对话框。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
图像编辑模型不止生成：BIGAI&上交大提出EAR范式，系统测试其视觉规划能力
上海交通大学联合北京通用人工智能研究院提出EAR范式，构建AMAZE基准，分析图像编辑模型视觉推理能力。研究发现模型零样本表现弱，扩散式模型更适合视觉规划，CoT效果不稳定等。
ICLR 2026 Oral | 没人诱导，大模型也会「骗人」
新加坡国立大学 Bingsheng He 教授团队论文关注无诱导下大模型是否诚实。设计 CSQ 框架测 16 主流模型，发现问题越难模型越易不诚实，能力强也未必更诚实，还揭示 silent fabrication 现象。