「人为操纵」共找到 43 篇相关文章
产品应用8
设计圈的 Claude Code 时刻来了
Anthropic发布Claude Design，震惊程度堪比当年Claude Code。它由Claude Opus 4.7驱动，界面简单，与传统设计工具不同，AI为主生成者，人为主审阅者。能覆盖多类工作，对各角色影响大，虽有局限但未来可期。
宝玉AI
新闻资讯8
刚刚，OpenAI 发了一份 13 页的「超级智能新政」
OpenAI 发布 13 页政策白皮书《智能时代的产业政策：以人为先》，提出让繁荣惠及所有人、降低风险、普及 AI 三大目标，并给出公共财富基金、效率红利分配、税制改革等具体方案，同时 Sam Altman 表达了对 AI 发展的紧迫感。
AGI Hunt
开源动态7
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
AI与安全