「Prompt漏洞」共找到 352 篇相关文章
2027年实现AGI？计算物理学家怒怼：纯属无稽之谈！
知名博主Scott Alexander领衔的项目称AI将在2027年达超人智能。但计算物理学家经研究指出，该预测模型漏洞百出，如数学错误、曲线选择无依据、图表与模型不符等，即便新模型改进部分问题，多数批判仍成立。
Harness 工程实践复盘：100% Cache 命中的 Agent 怎么设计？
本文是 ClackyAI 团队在 Harness 工程实践上的复盘。他们经两代失败后用 Ruby 重写第三代 OpenClacky，总结影响成本和效果的 7 个关键决策，如双 Cache 标记、System Prompt 字节冻结等，凸显 Harness 工程对 Agent 产品的重要性。
AI驱动的开源攻击框架：HexStrike-AI
HexStrike-AI是安全研究员开发的开源攻击框架，2025年7月起在GitHub免费提供。它基于MCP协议，集成LLM与150多种工具，可自动化渗透测试和漏洞发现。曾被网络犯罪分子利用，能加速攻击流程，展现强适应和并行化能力。
Fable 5.1 官方提示词指南
Anthropic 发布 Fable 5.1 后，同步发布《Prompting Claude Fable 5.1》提示词指南，列出 15 个 5.1 跟 Fable 5 在行为上的差异，并附修正提示词。还介绍了 Fable 5 提示词变化，以及 Fable 5.1 的新特性和应对建议。
AI哪怕答案正确，逻辑链却惨不忍睹，奥数级不等式证明成功率不到50%｜ 斯坦福&伯克利&MIT
斯坦福、伯克利、MIT等联合研究，系统评估29个大模型在奥数级不等式证明任务的能力。研究发现，模型答案正确多靠猜，推理漏洞多，参数大、思考久也不能提升推理严谨度，但自我反思和定理线索策略有改善效果。
AI圈刚开始谈Loop Engineering，两位95后博士已经盯上了人类闭环数据
AI圈热词Loop Engineering强调AI工程应从单次prompt转向设计持续运行的闭环系统。具身智能争抢人类第一视角数据，脸谱心智由95后博士创立，发布Looped World Models，还提出Ego - NeuroLoop数据范式及相关采集和增强工具。
100个产品原型同时跑、新模型Mythos断层领先，连skills效果都好到让团队意外：Anthropic内部到底在发生什么？
Claude Cowork 工程负责人 Felix Rieseberg 在播客中透露，未发布的新模型 Mythos Preview 带来“断层式跃迁”，在安全漏洞检测等方面表现出色。Anthropic 内部可同时跑上百个产品原型，执行成本降低。还介绍了 Cowork 开发、应用及产品打造经验。
刚刚，OpenClaw最猛升级！底层架构大换血，全网等了9天
OpenClaw「2026.3.22-beta.1」预览版上线，对插件系统重构，新SDK替代旧API，ClawHub成首选分发渠道；安全防护升级，封堵多个漏洞；模型配置升至GPT - 5.4，接入Anthropic Vertex等；多平台体验和Agent引擎也有优化。
从Rax+DX到React，一次跨端组件重写的AI提效探索
本文基于M站首页重构项目，讲述借助AI编程工具Cursor和结构化Prompt，完成从Rax到React的组件迁移、DX到React的跨端重写，实现业务逻辑优化与工程规范落地，还分析了AI提效的优劣并总结迁移范式。
2025-04-努力不是做好事情最重要的因素
作者分享个人生活、工作等多方面情况，提及播客发布，认为努力非工作做好的关键因素，深入探讨Agent在业务应用中的问题，还谈及视频更新、投资经历等，最后表示要审视目标、精简事务。