「间接提示词注入攻击」共找到 569 篇相关文章
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
刚刚，李飞飞空间智能新成果震撼问世！3D世界生成进入「无限探索」时代
斯坦福大学教授李飞飞创业公司 World Labs 发布限量开放测试预览版空间智能模型 Marble。输入单张图片或文本提示，它就能生成可无限探索的 3D 世界，与谷歌 Genie 有显著区别，还支持导出高斯点云等。
专治AI生图「人脸崩坏」，8倍速碾压GPT！新版FLUX.1多方位刷新SOTA
FLUX.1 Kontext是融合即时文本图像编辑与文本到图像生成的新一代模型，支持文本与图像提示，角色一致性强，速度快达GPT - Image - 1的8倍。它能解决AI生图“人脸崩坏”等问题，评估显示性能优异。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
写了 17 年开源代码，我为什么认为 Coding Agents 堆功能是在瞎折腾？
libGDX 创始人、17 年开源老兵 Mario Zechner 吐槽 Claude Code、OpenCode 等工具功能堆叠，带来掌控感丧失等问题。他推出极简主义编程 agent pi，仅含四种工具，有最短系统提示词，扩展性强，能让开发者重拾掌控权。
每天审200个PR、每月3000个Issue？智能体开始并行写代码，人类可能成最薄弱环节
本文是对微软 VS Code 团队工程经理 Kai Maetzel 的访谈。他回顾了 VS Code 发展历程，分享 AI 编程、智能体开发及开发者工具设计的实践思考，如 AI 补全体验优化、智能体开发权衡、与 IDE 交互机制等，还探讨了未来发展挑战与趋势。
跨境电商版Sora发布：全球首个AI原生电商视频Multi-Agent来了
营赛AI发布跨境电商版Sora——inSai Hilight。它无需拍摄素材与复杂提示词，扔个商品链接或图，20 - 30分钟就能生成逻辑严密、商品还原度100%、符合TikTok爆款节奏的营销视频，重新定义电商营销视频生产方式。
关于我用ChatGPT模拟撒旦并支付了订阅费这件事
新智元报道，硅谷科技巨头将AI注入基督教领域，出现如「Text with Jesus」等App。信仰交互变即时亲切，神成算法打造的伴侣。但也有争议，如算法妥协、恶魔付费解锁等，这像数字巴别塔，挑战传统信仰。
Swiggy 内部 AI 助手升级：Text-to-SQL 不够用了，Agent 开始接管数据分析
Swiggy 推出基于生成式 AI 的 Text-to-SQL 助手 Hermes V3，运行在 Slack 中。它解决了旧版本问题，通过向量提示检索等升级，将 SQL 生成准确率从 54% 提至 93%，还增加会话记忆、解释层，与现有体系深度整合。