「误导性提示」共找到 943 篇相关文章
震惊！13万Star的GitHub仓库泄露了30+款AI工具的核心机密
system-prompts-and-models-of-ai-tools项目是AI界“维基解密”，收录30+款AI工具核心系统提示词。从多维度解密，有完整提示词、跨工具对比等。适用于多种从业者，还给出使用方法。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
ICML 2025 | 多智能体的ChatGPT时刻？上交MAS-GPT实现工作流一键生成
上海交通大学等机构推出 MAS - GPT，提出生成式 MAS 设计范式，可一键生成可执行的 MAS。它解决了现有 MAS 方法无适应性、成本高、泛化性低等问题，实验显示其表现出色，未来潜力大。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
很多创业者都没意识到，Deep Research 也是做 Go-to-Market 的利器
用好 Deep Research 可提升 AI 产品 GTM 效率，主流 AI 产品都有该功能。前 Meta 战略总监写实用指南，从技巧、提示词公式、工具选择等阐述，还给出 5 个 GTM 用例及提示词模板。
Gemini 3+Nano Banana Pro+3D 生成+手势控制=？藏师傅教你炫酷展示运动成果
作者作为户外运动爱好者，用Nano Banana Pro做户外运动成果展示的图片提示词和海报效果佳，还将图片转3D模型、加手势控制，文章分享制作方法、提示词及工具使用方式。
零基础指南：从 Prompt 到上下文工程构建 AI Agent 【万字长】
作者结合培训经历，系统梳理零基础构建 AI Agent 的学习路径，涵盖结构化提示词工程、上下文工程与知识检索、工具函数设计和 Agent 规划等内容，还介绍各环节方法、策略和实践案例。
Anthropic官方解密：3招上下文优化，破解Agent性能暴跌
本文是Anthropic官方文章翻译，从提示词工程拓展到上下文工程，阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成，还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
在NeurIPS 2025，哥大与罗格斯提出LARGO，它不改提问，直接在模型“潜意识”动手脚，绕过安全防护输出不该说的话。其分三步攻击，成功率高、隐蔽且迁移性强，暴露大模型根本性弱点。
斯坦福华人研究火了：45分钟让你的论文变身AI智能体！
斯坦福大学研究人员提出Paper2Agent，可将静态论文转化为可交互的AI智能体。它提供自动化工作流，核心是封装成MCP服务器。通过三个案例展示其将不同论文转化为智能体的能力，提升科研成果易用性与可复现性。