「潜在风险」共找到 573 篇相关文章
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。
迎接范式革命：最新、最全的大模型Latent Space综述，NUS、复旦、清华等联合出品
大模型核心计算正从显式空间转向潜在空间，现有文献缺乏统一视角。NUS、复旦等机构的综述《The Latent Space》从五大视角构建框架，阐述潜在空间基础、演进、机制、能力，指出挑战与未来方向。
OpenClaw的风，已经吹进了奶茶圈
OpenClaw的风已吹进奶茶圈和百货零售行业，古茗和银泰百货测试使用它提效显著，但也遭遇安全风险。直播中专家拆解风险并给出安全落地方案，强调Agent时代安全是企业入场券。
AI 叙事重塑科技投资，市场 Hype 中如何识别真正的 AI Winners？｜AGIX 年度回顾
文章复盘 AGIX 方法论，其指数年初至今回报优，跑赢多行业指数。Mega 7 公司在 AI 发展中分化，市场为“AI 确定性”买单。AGIX 持仓分三板块，其高成长伴随高波动，但风险收益比佳。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
让大模型学会「心灵感应」：基于思维沟通的多智能体合作范式来了
NeurIPS 2025的论文提出思维沟通概念，建立潜在思维可识别性理论，构建ThoughtComm框架。该框架让模型共享潜在思维，跳过语言冗余歧义，实验显示其提升了协作效率与推理能力，或开启新智能形态。
Hinton暴论：AI已经有意识，它自己不知道而已
在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。
视频生成 vs 空间表征，世界模型该走哪条路？
随着生成模型和潜在表征技术发展，业界探讨世界模型技术路线。是像素级视频预测模拟未来场景可靠，还是潜在空间抽象表征高效？Goole DeepMind的Genie 3发布，再次引发讨论，分歧也从理论走向应用。
陶哲轩敲警钟！谷歌DeepMind联手五大神殿，用AI向世纪难题宣战
谷歌DeepMind发起「AI赋能数学计划」，集结五大顶尖机构，用最强数学AI探索数学难题。陶哲轩警示要警惕AI滥用风险，还提出论文使用AI的三大建议，如声明使用、讨论风险及明确责任。