「AI滥用风险」共找到 9984 篇相关文章
AGI很蠢？AI教父Hinton预警：4.8万亿美元市场已锁死，AI正撕裂全球！
AI教父Hinton在全球数字世界大会警告，全球AI产业膨胀，仅1%研发投入用于安全。他认为AGI是愚蠢术语，真正该关注超级智能。还指出AI有三类风险，像烟草石棉一样，法规或难防危害外流。
AI 叙事重塑科技投资，市场 Hype 中如何识别真正的 AI Winners？｜AGIX 年度回顾
文章复盘 AGIX 方法论，其指数年初至今回报优，跑赢多行业指数。Mega 7 公司在 AI 发展中分化，市场为“AI 确定性”买单。AGIX 持仓分三板块，其高成长伴随高波动，但风险收益比佳。
Dario Amodei 达沃斯访谈全记录：AI 的力量与风险
2026 年 1 月 20 日达沃斯论坛，Anthropic CEO Dario Amodei 接受专访，谈及 AI 发展程度、公司定位、中美竞争等多话题。他认为 AI 呈指数增长，一两年内或超人类，同时警告岗位消失、财富差距等风险。
ICML 2026｜让AI自动发现前沿风险：创智×复旦×牛津发布AutoControl-Arena
当AI智能体走向真实应用，前沿风险藏于复杂长尾场景，难以靠人工覆盖。创智、复旦、牛津联合发布AutoControl Arena框架，自动合成可执行测试环境，还构建X - BENCH验证，已在GitHub开源。
对话 XYZ-Aquila丨Deep Search SOTA 背后 AI 到底怎么参与改进 AI？
近日，XYZ AI Lab发布两款面向Deep Search的Agent，在评测中领先。其采用AI4AI方法，让AI参与研发判断。团队接受采访，探讨AI4AI含义、与RSI关系、工作范式等，还分享了改进案例和未来方向。
刚刚，Bengio官宣创业！急筹3000万专治AI欺骗人类，图灵三巨头全下场
图灵奖得主Yoshua Bengio官宣创办非营利机构LawZero，致力于研发「设计即安全」的AI系统，以应对AI军备竞赛风险。其研发的「Scientist AI」不具行动性，目标是理解世界，防止人类陷入AI风险。
AI泡沫原罪：英伟达是AI戒不掉的“毒丸”？
海豚君通过产业链核心公司报表研究AI投资是否到泡沫阶段及原罪。指出AI产业初期利润分配不均，上游获利多。还分析各环节风险，如英伟达怕需求下滑，云服务商有成本和产能风险，OpenAI成本高、亏损大。产业链巨头开始博弈定价权。
当AI开始造AI：递归自我改进的2026年
本文汇总2026年全球顶尖AI机构在递归自我改进（RSI）领域的最新实践，涵盖技术进展、行业动态，也包含学界质疑与风险讨论，完整梳理AI造AI的当前阶段与未来走向。
AI HR 挑选AI 简历，招聘市场正变成一场AI与AI的对决
LinkedIn求职申请过去一年激增45%，生成式AI是推手。求职者用ChatGPT优化简历、用AI代理申请，招聘方则用AI筛选和面试，还面临虚假身份问题。这引发对工作意义和真诚价值的思考。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。