「风险提示」共找到 925 篇相关文章
Medeo 教程：一次生成无脑抽卡不可取，真正的视频 Agent 应该啥样
本文介绍AI视频生成Agent Medeo 1.0版本，它支持短或超长提示词，泛化性好，多种垂类视频都能做。文中介绍其基础操作、展示案例和提示词，还剖析了能兼顾质量与灵活度的原因，目前产品在内测将全量上线。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
77万人围观的吉卜力风「游戏」视频，我们用3个国产AI整出来了（含提示词）
Reddit上吉卜力风格游戏视频爆火，a16z合伙人Justine Moore转发获超77万浏览量。文章介绍用国产AI复刻视频的流程，包括用即梦3.0文生图，对比即梦3.0 Pro、可灵2.1大师版、Hailuo 02视频生成效果，还探讨AI对游戏产业的影响。
GitHub 23.6k star 的 BMAD Method：如何把大模型系统提示词，变成一支“可复制的 AI 开发团队”？
BMAD Method是开源的AI驱动敏捷开发方法论与工具集，基于BMAD Core框架，有19个专业AI角色和50+条工作流，获23.6k颗GitHub Star。它解决了大模型使用痛点，将AI开发工程化，可在多工具复用。
MCP协议曝出大漏洞：会泄露整个数据库
最新研究显示，MCP协议存在重大漏洞，攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库。研究者基于Supabase搭建系统演示攻击过程，还给出降低风险的解决措施。
Anthropic 为 Claude Code 添加了沙箱和 Web 访问功能，以实现更安全的 AI 驱动编码
Anthropic为Claude Code发布沙箱功能及基于Web的工具版本，解决编码安全风险。沙箱有文件系统和网络隔离两个边界，能减少权限提示、增强保护，还解决了传统安全系统的限制。
阿里权力交接全解读：9人出局、蒋凡上位、3800亿豪赌AI—投资者必读深度研报
过去两年，阿里经历权力重组，合伙人缩减，蒋凡上位，吴泳铭押注3800亿AI。从“分封制”回归“集权制”、从运营驱动转向AI驱动，本文拆解变革，给出投资判断，分析各业务板块营收、竞争力，推演未来情景并提示风险。
社会奖赏激进的人？真相比你想的更残酷
文章探讨社会是否奖赏激进者。从AI使用场景引出话题，指出心理学上冒险者有优势，但存在幸存者偏差。提出应采用杠铃策略，在不对称风险中果断行动，同时强调并非所有领域都适合激进。
从「说错话」到「干错事」：复旦、CityUHK、SMU、UIUC等13家机构联合发布「具身智能安全」综述
具身智能正从实验室走向现实世界，却带来‘干错事’的现实风险。13家机构38位学者联合发布70+页综述，提出‘能力—风险’二象性，梳理各能力层攻击面与风险，还指出研究空白，维护开放资源生态。
Anthropic：上下文工程在AI Agents的正确打开方式！
在‘提示工程’后，‘上下文工程’成焦点。它是提示工程延伸，因信息过多模型会‘失焦’，上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。