「精准指令」共找到 553 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
3.8K星爆款！Google「langextract」可视化溯源，信息抽取神器
Google的「langextract」在GitHub获3.8K星，是信息抽取神器。它有精准源定位、可靠结构化输出等特点，支持多种LLM，适用于各领域，文章还给出实战代码示例。
Blender MCP功能使用与案例详解！
文章全面介绍3D创作工具Blender MCP，它基于MCP协议，可通过自然语言指令操控Blender。文中涵盖安装配置、核心功能及实战案例，还给出常见问题解决办法，显著降低创作门槛，提升创意转化效率。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
Sora2甚至可以预测ChatGPT的输出
Sora2表现太卷，能预测ChatGPT输出，模拟交互还能渲染HTML，懂代码也懂物理，能体现玻璃折射现象，还能精准还原游戏支线任务关键要素，或基于LLM训练。
含全文！OpenAI发布GPT-5官方Prompt指南
OpenAI 发布《GPT-5 prompting guide》，介绍新模型变化及使用方法。新增 `reasoning_effort` 和 `verbosity` 参数，还有 Responses API。Cursor 分享实战心得，同时提及控制 Agent 积极性、解决指令冲突等内容。
腾讯开源全新动作迁移模型FlexiAct，人物 & 动物都支持
当前动作定制方法在应对多样化主体和场景时适应性差，清华与腾讯提出FlexiAct模型。它引入RefAdapter和FAE，能在空间结构差异大或跨域场景中精准适配动作，保持外观一致，表现优于其他方法。
给你家 AI Agent 装个「长期记忆」，这个开源库一行代码搞定
Memori是开源的LLM记忆引擎/Python库，为聊天机器人等提供统一长期记忆层。它功能亮点多，如自动记忆分类、精准召回等，集成成本低，还有进阶玩法和企业安全能力。
手机操控革命！开源手机AI Agent，自然语言操控Android/iOS！
传统移动设备自动化工具难实现自然语言控制和跨应用交互，开源项目Mobile - Use提供解决方案。它由Minitap AI开发，能通过自然语言指令实现设备UI感知自动化，功能丰富，应用场景广。