搜索：最坏风险控制

「最坏风险控制」共找到 927 篇相关文章

AI 性格失控等诡异现象，终于有了科学解释

Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。

OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。

图灵奖得主Yoshua Bengio官宣创办非营利机构LawZero，致力于研发「设计即安全」的AI系统，以应对AI军备竞赛风险。其研发的「Scientist AI」不具行动性，目标是理解世界，防止人类陷入AI风险。

当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。

OpenClaw 之父 Peter Steinberger 发布 3.22 版本时漏打包控制台文件，致控制台白屏、插件失效。不到一天推出 3.23 修复，还加了自动拦截机制。此次修复涉及飞书附件发送、浏览器控制等多方面问题。

OpenClaw的风已吹进奶茶圈和百货零售行业，古茗和银泰百货测试使用它提效显著，但也遭遇安全风险。直播中专家拆解风险并给出安全落地方案，强调Agent时代安全是企业入场券。

文章复盘 AGIX 方法论，其指数年初至今回报优，跑赢多行业指数。Mega 7 公司在 AI 发展中分化，市场为“AI 确定性”买单。AGIX 持仓分三板块，其高成长伴随高波动，但风险收益比佳。

扩散策略成机器人控制热门路线，但真实世界动力学多变，策略易失灵。UC Berkeley等联合提出DADP，训练统一策略，在零样本跨域控制任务表现强，尤其在OOD场景优势明显，还给出工程补充结果。

上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。

在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。