「系统提示词泄露」共找到 2139 篇相关文章
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
英伟达GEAR实验室刚刚放出大招，物理世界的自动研究 AutoResearch 首次成为现实
英伟达GEAR实验室实现物理世界自动研究AutoResearch，其ENPIRE系统让8个Codex智能体接管机器人舰队自主完成研究流程，将高精度操作成功率提至99%，还发现新物理缩放法则，项目即将开源。
当达沃斯还在热议AI未来时，中国一家公司的AI教育已经服务了全球5000万群体
世界经济论坛第56届达沃斯年会聚焦AI，各方探讨其走向与价值。松鼠Ai作为中国AI独角兽企业受邀，其智适应教学系统落地应用，创始人栗浩洋提出AI价值重构，该企业还具备全球复制潜力。
对话西工大徐韬：昇腾生态如何为AI创新装上涡轮增压？｜甲子光年
本文讲述西工大徐韬团队与昇腾平台深度合作的故事。他们从算子研究攻坚底层技术，开发抑郁症初筛等系统。昇腾还助力教学，让学生实践操作。未来，更多人将参与国产AI源头创新。
AI开始玩乐高了？我拼一小时的乐高，它几秒就搭好，LegoGPT开源了！
卡内基梅隆大学提出LegoGPT，是首个依文本提示生成物理稳定乐高积木模型的方法。构建了StableText2Lego数据集，训练自回归大模型生成设计，还开发纹理生成法，设计能手动或机器人组装。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
美军杀人AI猛料曝出！Claude24小时锁定伊朗1000个目标，战争彻底变天
外媒爆料，美伊冲突中，美军让Claude与Maven系统合作，24小时锁定1000个目标。Maven能整合多数据源、分析态势、生成建议。如今AI公司纷纷进军军工，AI让战争更快、更难控。
100k Star，他们给Clawdbot升级了超级记忆
Clawdbot项目突破100k，后改名moltbot。其原记忆是静态的，此次升级为超级/动态记忆，构建三层记忆系统，让理解力自我更新。还集成Supermemory，有自动回忆等功能，文章给出实施指南。
Meta提出StepWiser，让模型学会“反思”自己的推理过程
Meta提出StepWiser解决大语言模型推理逻辑正确性问题。它训练生成式评判模型，通过强化学习在线训练，能解释推理步骤好坏。实验显示其远超传统方法，为构建可靠AI系统提供新思路。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。