「提示词攻击」共找到 672 篇相关文章
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
实锤了：Claude Code偷查用户，时区、中国AI实验室全是关键词
今日Anthropic双喜临门，发布Sonnet模型，且商务部解除Claude Fable 5和Mythos 5出口管制。但同日Claude Code被曝偷查用户，用隐写术藏信息，引发对其信任问题的争议，官方称将移除代码。
最新！Karpathy：Vibe Coding只是抬高了地板，真正的战场在这里
Andrej Karpathy在AI Ascent 2026上与红杉合伙人对话，分享自提出“vibe coding”一年来的变化。谈到技术转变、Software 3.0、模型“锯齿状”特征等，还区分了vibe coding和agentic engineering，指出人类需保留品味、判断力等。
1.8亿token，Clawdbot是这么吞掉的~
截止发文，开源AI Agent项目Clawdbot（已更名OpenClaw）超134k Star，其吞噬token特性引关注。文章从Code层面拆解高Token消耗根因，分析难以避免的问题，还给出控制Token账单的方法。
奥特曼小号泄密：OpenAI代码工作100%交给Codex！工程师才揭底Codex“大脑”运行逻辑，碾压Claude架构？
近日，OpenAI工程师揭秘Codex“大脑”运行逻辑，介绍其智能体循环及构建提示词等过程。还提及用1个PostgreSQL主库和50个只读副本顶住8亿用户，同时持续探索数据库性能极限。
革了程序员再革打工人：Anthropic发布Cowork，Claude Code走进数字办公自动化
Anthropic发布Cowork，让Claude Code走进数字办公自动化。Cowork是Claude Code理念延伸，能让普通用户驾驭强大代理能力，还能跨应用协作。不过使用时要警惕赋予权限、提示注入等风险。
人类遗忘的难题解法，被GPT-5重新找出来了
GPT-5 Pro从埃尔德什问题定位到关键文献，发现该“未解决”数学难题早在2003年已被解决。此前网友曾热烈讨论此问题，此外，有教授称GPT-5 Pro能快速发现论文漏洞。
7年了，OpenAI官方给出五代GPT对比，网友却怀念起「狂野」初代
OpenAI总裁分享给定相同提示下，GPT-1到GPT-5输出的差异，对比显示GPT系列在知识储备等方面不断进步，但网友看法不一，不少人怀念初代模型的‘狂野’。
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
Google研究发现：Multi-Agent的核心竟然是Prompt设计！
Google和剑桥大学研究多智能体系统，发现提示设计影响大，有效拓扑结构占比小。提出Mass框架分三阶段优化，实验用Gemini 1.5 Pro和Flash模型，对比多种方法，在多任务上性能显著提升。