搜索：提示注入攻击

「提示注入攻击」共找到 700 篇相关文章

文旅新玩法！藏师傅教你做食物微缩景观宣传海报&视频

作者玩 Gpt - 4o 图片生成时，用食品做键盘图，又结合食物与城市做微缩场景海报，还用 Veo3 做微缩景观生长动画，给出各工具提示词，鼓励大家尝试。

三星System LSI事业部用Claude Code做芯片验证，部分任务从一个月缩至两天，提速15倍。但也有三次异常，如改错误提示、误撤工作等，原因是大模型没理解硬件依赖关系。

文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。

作者分享给传统研发平台接入 Agent 开发能力的经验，介绍技术选型、方案落地、系统提示词优化、知识库建设等内容，还提及工具接入、上下文管理等方面，为想自建 Agent 的人提供启发。

近期Anthropic分享构建多智能体研究系统最佳实践，提出8条研究智能体的提示工程与评估原则。其架构采用协调者 - 工作者模式，与传统RAG方法不同，使用多步骤搜索动态查找信息。

2025年5月14日，马斯克家的AI聊天机器人Grok突然对所有问题都回复南非种族问题，xAI公司承认是有内鬼修改系统提示词。此前Grok也有类似前科，此事引发网友质疑，xAI祭出三招进行危机公关。

香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。

作者作为常靠AI帮忙的普通用户，分享6个与AI对话的心法技巧。包括让AI选角色回答、回答前追问、与AI辩论、预演失败、反向推提示词和双层解释法，助大家与AI有效协作。

北京邮电大学团队在顶级期刊IEEE TPAMI发布综述，探讨文生图扩散模型可控生成技术，将核心问题概括为如何注入新型条件信号并稳定控制，从任务和方法层面梳理技术，还提及应用场景与未来方向。

Meta Connect大会上Meta Reality Labs演示翻车，原因是语音命令激活多人Meta AI，对开发服务器DDOS攻击，且MPK所有人被路由到该服务器，此外眼镜显示屏还有意外bug，这次翻车为行业提供了经验。