「提示词攻击」共找到 672 篇相关文章
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
AI-Infra-Auto-Driven-SKILLS v0.1.0：给 Codex / Claude Code 的推理框架工作流
AI-Infra-Auto-Driven-SKILLS v0.1.0 版本整理可用 AI Infra SKILLS 并补充说明，沉淀推理框架开发流程约束，适用于 Codex 和 Claude Code，包含核心技能、SOTA loop、OpenAI 目标和提示等内容。
龙虾之父Claude账号被封！近百万人围观：故意的还是不小心的
Anthropic状况频出，先是泄露源代码、词元计费有BUG等，现又封了龙虾之父Peter的Claude账号，后称是误伤解封。此事引发近百万人关注，有人质疑A社在炒作。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
ComposeMe：让发型、服饰与身份随心组合的人体图像生成新范式
人像生成中保持效果清晰真实且自由调整细节是难题，Snap推出ComposeMe，引入‘属性特定图像提示’思路，能灵活组合属性。还建立数据集、提出训练方法，虽有局限，但表现较优。
抖音、视频号、小红书、公众号、百家号、网站、DeepSeek AI等SEO排名关键词布局怎么做？【收藏】
白杨SEO分享多平台SEO排名关键词布局方法。先讲核心步骤，包括确定主题、做话题树、定优先级和内容类型，后详细介绍抖音、视频号等7个平台的关键词布局具体做法。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
该工作引来马斯克回复，让Gork破防：CoT是真正的推理，还是训练数据的统计插值？
大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。
不看后悔！GitHub 开源 MultiTalk .8k star 强大的人语音＋图像绑定项目
MultiTalk 是 MeiGen‑AI 开发的开源框架，可从音频、图片和提示语生成多人对话视频。它解决传统视频制作痛点，功能亮点多，技术优势明显，应用场景广，与同类项目对比表现突出。
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队警告，使用Cursor搭配MCP可能致SQL数据库泄露，攻击者靠一条信息就能实现。MCP被广泛接入，其配置问题成AI应用核心安全挑战。如Supabase MCP，攻击者用留言让Cursor代理复制私密表数据。