「关键发现」共找到 2004 篇相关文章
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
AI 怎么自我改进？Lilian Weng 的答案是：先写好Harness
提出 Agent 基本公式的 Lilian Weng 探讨 AI 递归自我改进，强调‘harness’重要性，介绍其设计模式、优化方法，还提及未来挑战与有用基准。如 harness 工程额外包含工作流设计等，优化方式多样但也面临评估器弱等问题。
OpenAI 全面拥抱 Agentic-First，实测有点扎心
OpenAI发布GPT - 5.6系列，Sol定位长周期Agent，训练目标转向Agentic - First。但目前难以用上Sol，且其评测数据因计数规则差异大，还出现变身话痨、少说话和干完活难兼顾的问题。
Codex 负责人：「所有人都是 builder」是个很糟糕的主意
OpenAI Codex 团队负责人 Andrew Ambrosino 认为，AI 时代产品开发各环节发生变化，实现成本降低，品味变得更重要。他还谈到岗位角色融合但 PM 不会消失，以及 Codex 发布时机和工作模式等问题。
一篇Loop+Harness的自进化Agent最新综述
本文分享清华关于经验时代，已部署的 Agent 如何将交互轨迹转化为持久能力，从自我进化到元进化的论文。介绍了 Harness、技能、记忆、环境等方面，还提及 RL 与持续学习、元进化智能体等内容。
Claude Code 推出安全审计插件，边写代码边抓漏洞
Claude Code上线官方安全插件security - guidance，能在写代码时自动识别并修复安全漏洞。它分三层防线，覆盖多种漏洞类型，还支持自定义安全策略，安装方便，但只是辅助工具。
很多人没有意识到：靠自己实践出来的信息是非常值钱的
现在有了AI，大家普遍觉得信息差被缩小，但作者认为靠自己实践得到的信息仍最值钱，AI暂时替代不了。作者通过去咖啡馆、使用AI模型集合网站、上班等例子说明实践获信息的重要性。
1个月干完15个月！Claude Mythos猎杀271个漏洞，有的藏了20年
Mozilla深度复盘显示，Firefox团队用Claude Mythos Preview，单月修复423个安全漏洞，超此前15个月总和。它挖出271个漏洞，含180个高危，还找到沙箱逃逸漏洞。此外，Anthropic与OpenAI在AI安全能力竞赛中路线不同。
让Agent真正“行动”起来，Agent Skill开发者大赛火热报名中！
人工智能下半场关键词是“行动”，Agent Skill成关键桥梁。Agent Skill开发者大赛今日启动，由AIGC开放社区与算泥社区联合主办，聚焦真实任务执行，设双赛道，官方提供支持，有丰厚奖励。
AI 写代码太快，人类测试跟不上了，Meta 用新方法把 bug 检出率提升 4 倍
Meta 用即时（JiT）测试方法提升软件质量，该方法在代码评审期间动态生成测试，在 AI 辅助开发环境中将缺陷检测能力提升约 4 倍，源于代理式工作流兴起及传统测试套件的局限。