「提示词攻击」共找到 672 篇相关文章
TPAMI | DC-SAM：打破SAM交互限制，基于循环一致性的图像与视频上下文分割方法
北京邮电大学联合南洋理工大学等机构发表论文，提出 DC - SAM 框架及 IC - VOS 基准。DC - SAM 含特征融合、正负双分支循环一致性提示生成等部分，实验在多基准测试获 SOTA 性能，为视觉大模型落地提供方案。
Strix AI驱动的漏洞动态验证能力分析
传统SAST工具只能发现‘可能有问题的代码’，无法确认漏洞是否可被利用，导致高误报率。Strix采用‘静态分析 + 动态验证’的混合模式，先定位可疑点，再对漏洞进行真实攻击验证，显著降低误报率。
如何用好 Codex？OpenAI 内部实践指南：7 个最佳应用场景，6 个使用 Tips
OpenAI Codex团队在活动中称积极用Codex构建产品。文章介绍其7个应用场景，如理解代码、重构迁移等，还有6个使用技巧，像从提问模式开始、组织好提示等，展示了Codex在开发中的强大作用。
OpenAI深夜发布ChatGPT Study：免费AI家教，彻底颠覆传统教育
今天凌晨1点，OpenAI发布ChatGPT Study学习模式，面向教育领域，有交互式提示等四种方法，能解读难题思路，免费版也有此模式。其底层有自定义系统指令，特色功能实用，不少内测用户已用它解决学习难题。
「幻觉」竟是Karpathy十年前命名的？这个AI圈起名大师带火了多少概念？
AI大牛Andrej Karpathy是命名大师，“幻觉”一词由他命名，2022年随ChatGPT火起来。他还提出软件2.0、3.0，氛围编程、细菌式编程等概念，转发带火上下文工程，平时推文也让一些问题受关注。
【医学影像分割】UN-SAM：一种高效且通用的细胞核分割模型
文章提出UN - SAM框架解决现有SAM在医学影像分割依赖人工标注、跨域泛化不足问题。它含三大模块，能自动生成提示、增强特征判别力和跨域分割精度，实验显示其在多数据集表现优，代码已开源。
叫板 OpenAI Sora？Manus 推出文生视频服务，计划向所有用户开放
近日，Manus AI 推出文本转视频生成服务，支持单条提示完成视频制作，目前供部分订阅用户抢先体验，计划向所有用户开放，对标 OpenAI Sora 等竞品。其母公司获投资，还与微软合作，系统有独特优势。
世界模型评测的最大盲区，被这个新基准捅破了
过去一年，‘世界模型’成视频生成领域热词，厂商强调产品要模拟真实世界运行规律，但业界评测一直未能精准检验其‘物体恒存’的认知能力。为此，研究者提出新基准MemoBench，测试了主流模型，揭示其短板。
遭黑客投毒、被网安圈群嘲蹭流量、英伟达建的沙箱半小时就被攻破！OpenClaw 之父揭开大模型圈最脏的潜规则
OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。