「防御评估」共找到 804 篇相关文章
危险？OpenAI 模型行为负责人：人类很快会进入「AI意识」，当前最重要是控制人机关系的影响
OpenAI模型行为与政策负责人Joanne Jang发文指出，与其争论AI是否有意识，不如关注其对人类“情感福祉”的影响。文章探讨了OpenAI在人机关系上的处理，以及如何塑造模型行为，还提及未来计划。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
惊讶！！！3.2 万 Star OpenViking，让你的原地起飞！！！
OpenViking有3.2万Star，它把记忆、文档、提示词等上下文统一成可浏览地址空间，设计三层信息按需加载，检索留轨迹，还接入多种工具。不过它处Alpha阶段，用前要考虑许可证。
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。
达尔文.skill正式发布，一个无限进化的skill系统！
作者受Karpathy的autoresearch启发，开发了达尔文.skill系统，可自动评估和优化skill。它有五条原则、八维度评分体系，能批量解决skill质量问题，与Anthropic官方工具互补，现已开源。
告别人工干预！KDD Cup 2026 Data Agents 赛道：定义下一代数据智能体能力边界
KDD Cup 2026 发布 Data Agents for Complex Data Analysis 赛道，由香港科技大学（广州）和清华大学联合承办。旨在推动 AI 告别人工干预，具备自主任务分解等能力，还推出 DataAgent - Bench 测试平台，有丰厚奖励，公布关键时间节点。
写顶会LaTeX论文的门槛彻底被谷歌PaperOrchestra打下来了~
谷歌推出多智能体协作框架PaperOrchestra，能将非结构化研究素材转化为符合顶会要求的LaTeX投稿论文。它解决了现有自动化研究框架在论文写作环节的问题，实验显示全面超越现有基线。
CVPR 2026 | 还在为AI「鬼画符」发愁？TextPecker即插即用破解文字渲染难题
在生成式AI浪潮中，视觉文本渲染仍是未攻克的核心难题。华中科技大学白翔教授团队等提出TextPecker，是基于结构感知的即插即用型强化学习优化策略，可适配主流生成器，提升视觉文本渲染性能，已被CVPR 2026接收。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
超20万个高质量Skills！浙大等联合推出SkillNet，告别孤立Skill实现自进化
浙江大学联合多家机构推出开源基础设施SkillNet，拥有超20万个高质量Skills。它能让AI智能体告别失忆式工作，将互联网资源和人类经验转化为可执行Skills，构建Skills网络，经严苛评测，在真实场景验证了强大实战能力。