「风险提醒」共找到 621 篇相关文章
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。
还需付费卸载龙虾？这只龙虾能直接「杀死」OpenClaw
OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。
刚刚，Bengio官宣创业！急筹3000万专治AI欺骗人类，图灵三巨头全下场
图灵奖得主Yoshua Bengio官宣创办非营利机构LawZero，致力于研发「设计即安全」的AI系统，以应对AI军备竞赛风险。其研发的「Scientist AI」不具行动性，目标是理解世界，防止人类陷入AI风险。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。
OpenClaw的风，已经吹进了奶茶圈
OpenClaw的风已吹进奶茶圈和百货零售行业，古茗和银泰百货测试使用它提效显著，但也遭遇安全风险。直播中专家拆解风险并给出安全落地方案，强调Agent时代安全是企业入场券。
AI 叙事重塑科技投资，市场 Hype 中如何识别真正的 AI Winners？｜AGIX 年度回顾
文章复盘 AGIX 方法论，其指数年初至今回报优，跑赢多行业指数。Mega 7 公司在 AI 发展中分化，市场为“AI 确定性”买单。AGIX 持仓分三板块，其高成长伴随高波动，但风险收益比佳。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
Hinton暴论：AI已经有意识，它自己不知道而已
在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。
想玩Loop Engineering，可以先从这6个Hook玩法开始。
Loop Engineering正火，入手可从Hook玩法开始。Hook是循环触发器，在Agent里很常见。文中整理了6个Claude Code的Hook玩法，如权限弹窗提醒、开机日程播报等，还提醒接入工作流要注意稳定性和边界。