「AGI风险」共找到 958 篇相关文章
2025 中国最具价值 AGI 创新机构 TOP 50 调研启动征集！
这一年AI发展迅猛，从产品到模型都有诸多突破。在此背景下，Founder Park发起调研，寻找在技术、商业与场景融合中率先突破的关键变量，将选出50家创新机构，申报截止5月31日。
OpenAI解散「灾难风险应急」团队！GPU大神Scott Gray也跑路了
OpenAI解散「Preparedness」团队，该团队负责评估自家AI灾难级社会风险。官方称安全工作已融入开发流程。此前多个安全团队也已解散，多名安全高管离职，引发员工不安。
全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走
谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。
Token需求狂飙千倍，22亿热钱涌向这家AGI Infra头号玩家
在AI基础设施成风口的背景下，国内AGI Infra头部玩家无问芯穹获超7亿融资，其Token调用量爆发式增长。随着AI产业进入Agent阶段，传统架构难适配新需求，无问芯穹以中立定位成Token经济枢纽。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
GPT-5：没有AGI，失望和天花板，最具竞争力的可能是定价
刚看完GPT - 5发布会，整体令人失望。发布会现错误图片，市场反馈不佳，专家认为开发仓促。它有三个型号，基础性能表现不一，在部分测试中不如竞品，亮点是价格有竞争力，代码能力受开发者好评。
上海交大/上海AI Lab翟广涛：当评测不再重要，AGI就实现了
上海交通大学教授翟广涛认为完美的AI评测体系等同于通用人工智能。当下评测体系存在数据污染、原子化能力评测局限等问题，他主张回归‘以人为本’，团队提出相关框架和技术路径，目标是训评一体。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
一场未竟的AGI实验：代季峰离开陈天桥MiroMind团队始末｜甲子光年
MiroMind是盛大旗下、由陈天桥与代季峰联手创立的AGI研究组织。因合规考量，代季峰卸任技术顾问。美国出口管制扩至云端，让跨境远程研发合规边界生变。代季峰或带部分团队另立公司，MiroMind研究未停。
下周聊：出海第一步，AI 科技公司需要关注的 5 个法律合规问题
AI创业应尽早出海，但不同地区法律法规等复杂。文章邀请专业人士，下周四线上分享科技公司、AI创企出海面临的合规风险、典型案例及应对方法，还提及需关注的软硬件法律风险等问题。