「提示词攻击」共找到 672 篇相关文章
SpAItial发布超逼真3D空间基础模型
德国AI初创平台SpAItial获1300万美元种子轮融资，发布超逼真3D基础模型。其核心技术能理解3D世界，可基于文本或图片生成3D场景，在多领域有革新可能，虽有竞争，但未来有望推动AI三维突破。
Thinking with Video：一种全新的思考范式
在人工智能领域，‘用文本思考’和‘用图像思考’存在局限。复旦大学等团队提出‘用视频思考’范式，通过视频生成模型统一文本与视觉推理，构建VideoThinkBench基准测试Sora - 2，全面解读这一开创性工作。
ACL 2025｜自我怀疑还是自我纠正？清华团队揭示LLMs反思技术的暗面
本文指出反思技术虽简单有效，但在多种LLMs和任务中会失败。清华团队剖析其在开源和闭源LLMs、四种任务上失败原因，提出轻量级缓解方案，为反思技术可解释性研究奠基。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
使用 Claude Code：会话管理与 100 万 上下文
本文是 Claude Code 的产品使用指南，介绍了其新更新的 /usage 命令，阐述了上下文、压缩、衰减等概念，还给出会话管理建议，如何时开新会话、用回溯替代纠正等，助用户用好该工具。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。
Andrej Karpathy爆料：自己家被Claude Code入侵了
Andrej Karpathy做实验让Claude Code入侵自家Lutron智能家居系统，成功接管全屋设备。此前网友用其控制烤箱等，引发连锁反应。但这也暴露物联网设备安全问题，还带来新威胁。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。