「误导性提示」共找到 963 篇相关文章
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。
人生周报v022：十层认知
文章围绕育儿量化指标、写提示词的难点、培训出路、AI生成PPT的局限、MCP协议误区等多个话题展开讨论，还推荐了物理科普书《解析物理的十层之旅》。
还需付费卸载龙虾？这只龙虾能直接「杀死」OpenClaw
OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。
不让“猪队友”拖后腿！哈深新作 AgentDropoutV2，专治多智能体“传话游戏”翻车现场
多智能体系统中，常有agent出错带偏整体。哈工大联合阿里提出AgentDropoutV2，测试时介入，设‘质检员’审核输出，结合失败案例构建‘避坑指南’，在多测试中显著提效，泛化性强。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
附部署代码｜云数据库RDS 全托管 Supabase服务：小白轻松搞定开发AI应用！
本文展示借助 RDS Supabase 搭建 AI 应用的全流程，对比传统开发，其在效率、成本、扩展性上优势显著。介绍 Supabase 特性、适用场景、核心能力，还给出基于它开发简易 Agentic RAG 应用的步骤。
AI“读书”合法了：美法院最新裁定，无需作者同意，已购书籍可用于训练AI
美国法院裁决允许Claude背后公司Anthropic，在未经作者许可下用合法购买的已出版书籍训练AI，参考“合理使用”原则，认为属“转化性使用”。此前也有类似AI版权诉讼案例。
Fable 5榜单第一靠作弊？代码泄露，模型真实身份曝光
黑客泄露Claude Fable 5长达12万字符的系统提示词，揭示它并非大模型，而是伪装成LLM的完整Agent系统。这颠覆了对AI模型的认知，也让Anthropic陷入舆论漩涡，还暴露了其计费黑幕。
英伟达世界模型再进化，一个模型驱动所有机器人！机器人的GPT时刻真正到来
英伟达GEAR实验室提出DreamZero，是基于预训练视频扩散骨干网络的世界动作模型，有140亿参数，能让机器人通过文本提示完成未见任务。它解决了传统模型问题，在多方面表现出色，代码已开源。
Nano Banana 邪修之王最强科研成果！教你自定义生图比例！
Nano Banana 出图有分辨率低和比例不可控问题。作者发现用垫图方式可控制其生图比例，已生成图片也适用，还给出操作方法、提示词，介绍不同平台效果及案例图下载方式。