「AGI风险」共找到 950 篇相关文章
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
AGI 路线图第二阶段：游戏即模型训练｜AGIX PM Notes
文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。
警惕！“养龙虾”风险，一键给你的Openclaw做安全体检
OpenClaw在短时间内登顶GitHub开源榜首，国内企业纷纷部署。但它存在安全隐患，如漏洞、隐私风险等。朱雀实验室联合腾讯云EdgeOne推出「OpenClaw安全体检」功能，可自动完成全面体检与风险评估。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
ICML 2026｜让AI自动发现前沿风险：创智×复旦×牛津发布AutoControl-Arena
当AI智能体走向真实应用，前沿风险藏于复杂长尾场景，难以靠人工覆盖。创智、复旦、牛津联合发布AutoControl Arena框架，自动合成可执行测试环境，还构建X - BENCH验证，已在GitHub开源。
Demis Hassabis：AGI 还缺什么，智能体到底行不行，下一个科学突破长什么样
Google DeepMind CEO Demis Hassabis 做客直播，探讨当前 AI 范式距 AGI 差距、智能体水平、科学突破模式等话题。指出当前范式或需关键突破，记忆方案待优化，AlphaGo 技术复活，还给出创业建议。
Meta华人新秀毕树超，重磅爆料下一代LLM路线！RL+预训练直通AGI
OpenAI前研究员、Meta成员毕树超在哥大演讲指出，AGI需高质数据、好奇驱动探索与高效算法，Scaling Law有效，规模决定智能，终身学习是重点，还探讨了AGI面临的诸多问题与挑战。
中国AGI深度时刻！杨强、唐杰、林俊旸、姚顺雨大咖们2026开年重磅交锋
2025年中国开源模型表现出色，AI大模型探索新范式。AGI - Next前沿峰会嘉宾探讨AGI发展，指出大模型To C与To B市场逻辑分化，还谈及自主进化、智能体变革及中国AI发展路径等问题。
Demis Hassabis揭秘世界模型Genie 3的真正意义：为AGI打造无限“虚拟子宫”
Google DeepMind CEO Demis Hassabis与产品负责人深度对谈，爆料将游戏智能体SIMA放入Genie 3生成世界训练，探讨AI从游戏到思考系统的演进、Genie 3意义及AGI评估挑战，还提及与Kaggle合作推游戏竞技场。
GPT-5.2考赢人类！OpenAI警告：大模型能力已过剩，AGI天花板不是AI
GPT - 5.2在ARC - AGI - 2基准测试超人类，Poetiq系统让其准确率从60%提至75%。OpenAI称大模型进入‘能力过剩’阶段，未来AGI进展不止靠模型，更需人机协同。