「风险提示」共找到 924 篇相关文章
刚刚！UCLA杨林团队证明：仅凭提示词，Gemini 2.5 Pro就可以拿到IMO2025金牌
加州大学洛杉矶分校杨林和黄溢辰撰写论文，阐述利用Gemini 2.5 Pro解决2025年IMO竞赛5道题达金牌水平。设计解题者和验证者构成的自我验证流水线，用双提示词系统迭代，还规避数据污染问题。
一个省略号提示+强化学习搞定大模型“过度思考”，中科院自动化所新方法：从强制推理到自主选择
中国科学院自动化研究所联合鹏城实验室提出AutoThink方法，用省略号提示和多阶段强化学习，让推理大模型依题目难度自主切换思考模式，解决过度思考问题，在多数据集验证有效。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
离谱！我以为它只是提示词合集，结果 16.4 万 Star prompts.chat 直接把 Prompt 收藏夹干成团队资产库
一开始以为 prompts.chat 只是提示词合集，实际它把零散 Prompt 变成可搜索、可自托管、可接工具链的团队资产库。截至 2026-06-29，它在 GitHub 有 16.4 万 Star，还介绍了其功能、适用场景和局限。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
革了程序员再革打工人：Anthropic发布Cowork，Claude Code走进数字办公自动化
Anthropic发布Cowork，让Claude Code走进数字办公自动化。Cowork是Claude Code理念延伸，能让普通用户驾驭强大代理能力，还能跨应用协作。不过使用时要警惕赋予权限、提示注入等风险。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
Claude Code 10天写完Cowork 全部代码！Anthropic 新品抢白领饭碗，争议拉满！
Anthropic推出基于Claude Code架构的Cowork，定位是协作智能工作体。它能操作文件、解决工作流断裂问题，但有操作和提示注入风险。目前是研究预览版，后续会改进，引发能否被信任的讨论。