「风险提醒」共找到 596 篇相关文章
几月前的伤心事，ChatGPT突然翻出来提醒我？网友当场破防：太会捅刀子了！
今年4月，OpenAI发布ChatGPT「记忆」功能并不断升级，能形成个性化档案，但也带来问题，如提及伤心事、造成社死等，背后有无意的算法残忍和上下文崩塌两类问题。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
精准医疗与AI融合：数据驱动下的个性化健康未来｜甲子引力X
在「2025甲子引力X中国科技产业投资大会」上，5位投资人围绕AI赋能医疗投资的机遇与挑战展开探讨。他们各有投资偏好与见解，还指出风险，最后畅想了AI改造后的健康未来。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
社会奖赏激进的人？真相比你想的更残酷
文章探讨社会是否奖赏激进者。从AI使用场景引出话题，指出心理学上冒险者有优势，但存在幸存者偏差。提出应采用杠铃策略，在不对称风险中果断行动，同时强调并非所有领域都适合激进。
从「说错话」到「干错事」：复旦、CityUHK、SMU、UIUC等13家机构联合发布「具身智能安全」综述
具身智能正从实验室走向现实世界，却带来‘干错事’的现实风险。13家机构38位学者联合发布70+页综述，提出‘能力—风险’二象性，梳理各能力层攻击面与风险，还指出研究空白，维护开放资源生态。
刚刚，Claude 又杀死了所有 todo 工具
Claude 可直接操作 iOS 提醒事项，只需告知任务，它会申请权限并设定日程。作者认为从现在起，所有 todo 软件都可‘去死’，Claude 将成智能日程助理，还能查看、管理提醒。
毕马威：企业对AI Agent智能体试点应用猛增
毕马威2025年一季度AI应用报告显示，企业对AI Agent智能体试点应用猛增，自上季度以来试点企业比例从37%升至65%，在各业务场景广泛探索，但应用中面临员工培训难题，企业也采取了风险缓解措施。
Nature发布Delphi-2M模型，提前20年预测你得什么病
2025年9月17日《自然》发表研究成果，欧洲、德国和丹麦科学家改造GPT架构，推出Delphi - 2M模型。它能预测1258种疾病及死亡风险，依据过往病史等提供风险概率，虽有局限但潜力大。
还需付费卸载龙虾？这只龙虾能直接「杀死」OpenClaw
OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。