搜索：提示注入诱导攻击

「提示注入诱导攻击」共找到 567 篇相关文章

The Batch：833 | 针对智能体的钓鱼攻击

研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。

Google DeepMind发布Gemini 2.5 Pro (I/O edition)，编程能力大幅提升，在编程排行榜超Claude 3.7 Sonnet。用户用一个提示词或草图+描述就能构建应用，谷歌大佬站台，网友实测效果佳。

LLM操作手机以往方案有局限，phone - harness利用macOS Sequoia的iPhone镜像功能，通过截取镜像窗口、注入操作、截屏验证实现Claude操作iPhone，还介绍安装步骤、踩坑及已知限制。

Karpathy推荐Atharva博客，指出AI是工程师能力放大器，扎实编程基础搭配精准提示，能借AI打造极致产品。文章还给出用AI开发的策略、战术，以及数据库优化实例。

新智元报道，NUS、UT Austin等机构研究人员提出「拖拽式大语言模型」（DnD），它基于提示词生成模型参数，无需微调适应任务，效率最高提升12000倍，零样本泛化能力出色。

作者作为AI行业博主，分享AI爆火以来的割韭菜骗局，包括卖盗版软件、天价提示词、卖课、证书与算法课、克隆声音形象等，提醒大家擦亮双眼，避免成为下一个受害者。

Claude团队分享用多智能体构建深度搜索的心得，展示有效多智能体研究系统架构，涵盖系统架构、提示工程、评估方法等内容，还提及系统面临的问题、挑战及额外建议。

鹅厂同事认为AI时代程序员无需死磕工具书，但不能放弃系统性学习，应策略性地用书籍搭建知识骨架、AI填充细节、项目实践注入灵魂，还精选了2025上半年大牛书单。

消息人士爆料Anthropic给Claude Cowork重磅升级，知识库注入永久记忆，Cowork模式与Chat模式合并成默认界面。还有UI、自动化、语音等多方面升级，若落地Claude将成生产力搭子，或引发AI办公革命。

最近‘别再一句句给Agent写提示词，去写循环’说法火了。虽循环代码简单，但关键在模型周围。循环工程有四大难点，角色也从操纵Agent变为设计系统，不过此说法也有反对声。