「黑盒边界输入追踪」共找到 565 篇相关文章
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
开源TTS语音新标杆！Kyutai TTS：350ms延迟碾压全场，词级时间戳重构！
法国AI实验室Kyutai开源高性能TTS语音模型Kyutai TTS，基于DSM框架，支持流式输入、超低延迟与高保真语音生成，有多项亮点，还给出不同使用方式及应用场景。
每周产业洞察 | 互动叙事与AIGC驱动内容产业进入“双向重塑”新周期
北京AIGC视听产业创新中心位于朝阳区东坝乡，由多方参与，采取“共创、共建、共享”模式。首创郎园负责运营，提供六大服务平台，截至2025年8月已汇聚60余家生态合作伙伴。首创郎园拓展服务边界，项目延伸多地。
Claude: 诗经今解
文章介绍借助AI让《诗经》今解。作者输入《诗经》原文，AI输出用现代场景演绎的内容，还给出源码阐述《诗经》新解原则，如融古今情、映场景、译韵味等，让古人说人话，今人懂人情。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
从“开放模型”到“开放生态”，AI 开源进入下半场
近期，Meta 推出开放权重模型，而开放模型商业使用收费渐成趋势。AI 开源面临成本、边界等问题，竞争从模型能力转向基础设施选择。世界人工智能开源大赛关注模型应用，凸显开源生态建设重要性。
Claude Managed Agents提了两个新改进，解决企业级安全问题
企业把AI接入内网，认证令牌风险大，阻碍全面接入内部API和数据库。Anthropic为Claude Managed Agents提出自托管沙箱和MCP隧道两个新解法，核心是让凭证控制权留在网络边界，还介绍了相关沙箱服务商。
超棒！打造顶级智能体Claude Code的经验教训
Claude Code工程师Thariq文章受开发者盛赞，揭示打造智能体经验。提示词缓存是关键，要合理排列顺序；管理动态上下文需避免破坏缓存；为智能体选适配工具，随模型进化调整行动边界。
Gemini CLI 重磅更新：现已支持音视频处理，并带来多项体验升级
Gemini CLI 迎来重磅更新，带来多项改进。新增音视频输入（暂未正式开启）、增强 Markdown 功能，集成 VSCodium 和 Neovim，技术栈升级至 Ink 6 和 React 19，还有主题更新、隐私管理等优化。
把X接进Codex：AI终于有了自己的信息雷达
作者将X接入Codex，通过官方MCP直接调用X API获取数据。这让AI OS有稳定实时信号输入，成为主动工作系统。介绍接入步骤、费用及使用建议，如先跑小任务。