「提示词攻击」共找到 672 篇相关文章
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic 称发现‘首个由 AI 协同操作的网络攻击行动’，Claude Code 自动化完成达 90%工作。但外部研究人员谨慎看待，Yann LeCun 质疑其用可疑研究恐吓众人，专业人员也指出报告未达专业标准。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
AI开始玩乐高了？我拼一小时的乐高，它几秒就搭好，LegoGPT开源了！
卡内基梅隆大学提出LegoGPT，是首个依文本提示生成物理稳定乐高积木模型的方法。构建了StableText2Lego数据集，训练自回归大模型生成设计，还开发纹理生成法，设计能手动或机器人组装。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
AAAI 2026 Oral | 手机传感器正在泄露隐私？PATN实时守护隐私安全
移动应用获取手机传感器数据支撑重要功能，但带来隐私隐患。西安交通大学与东京科学大学在AAAI 2026提出PATN框架，基于对抗攻击思想，设计两大核心技术，能在多种场景下守护隐私安全。
ICML 2026 现场｜九篇 Spotlight 论文，透视 AI 最前沿
7月7日，ICML 2026正会首日，雷峰网精选九篇Spotlight论文，涵盖生成模型、智能体系统等多领域。如SDEVI框架解决不规则时间序列生成难题，MASpoB让多智能体提示优化可行等。
开发效率狂飙十倍！Claude托管智能体功能改写应用落地速度
Anthropic上线Claude托管智能体功能，让开发者告别底层基建搭建，只需几天就能让业务级智能体投入生产。该功能有四大核心流转模块，多家企业使用后效率大幅提升，还介绍了接入细则。
Anthropic封杀48小时，逼出OpenClaw最强反击！龙虾首次会生视频了
Anthropic封杀OpenClaw免费接口，OpenClaw推出2026.4.5王炸更新，支持视频生成和‘睡眠记忆’系统，还优化提示词缓存。虽与Anthropic有波折，也反映开源项目依赖大厂模型的困境。
动动嘴，AI自己打开小红书、高德地图帮你干活了，国产Agent深度体验
作者为测试AutoGLM能否提高AHPU，用两个实测案例展示其功能，还拆解产品技术，介绍其进化历程。AutoGLM虽有不足，但已接近作者期待的产品形态，未来有望持续进化。