搜索：人类灭绝风险

「人类灭绝风险」共找到 1615 篇相关文章

借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！

OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。

近期国产半导体项目IPO速度加快，政策为产业打通资本血脉。本文以屹唐、摩尔、沐曦为例剖析热潮内核，指出企业有技术依赖、财务亏损等问题，IPO后还面临估值高、技术泡沫、地缘政治风险。

InfoQ《极客有约》X QCon 直播聚焦 OpenClaw 落地难点。嘉宾探讨其验证的价值、生产级形态、落地难题等，还谈及 AI 与人类共生关系、记忆系统问题及解决方案，最后分享企业落地经验和会议信息。

在 AlphaGo 诞生十周年之际，中关村两院举办对话活动。《哈萨比斯：谷歌 AI 之脑》作者分享其成长轨迹，马拉比与刘铁岩就 AGI 交流，谈及哈萨比斯使命感、跨学科背景及竞争意识，还探讨 AI 应用方向。

人类信息检索能力受限，OpenAI的Deep Research虽能解决难题但闭源。阿里巴巴通义实验室开源AI Agent框架WebSailor，在多基准测试表现出色，核心技术围绕复杂任务生成和强化学习模块展开，在Github成绩亮眼。

作者花一周看完Lex Fridman对丹麦传奇程序员DHH的6小时访谈。DHH分享编程经历，谈对流行技术看法，认为AI不能取代人类创造力，还谈及创业、开源等观点，展现深刻认知与独特态度。

大模型处理复杂问题常“翻车”，华为诺亚方舟实验室提出思维森林（FoT）框架，借鉴人类认知方式，打破线性推理范式。FoT在多个数学推理任务表现出色，准确率超先进模型，将在ICML 2025开源。

Anthropic公司CEO称AI幻觉比人类少，创业公司ColdIQ联合创始人Alex Vacca用虚构故事喂给ChatGPT、Claude和Gemini，测试它们识破谎言的能力，实验结果显示各模型表现不同，AI幻觉短期内难消失。

OpenHuman是TinyHumans AI构建的开源桌面AI Agent，登上GitHub榜单并霸榜一周。它想成桌面级个人AI操作系统入口，但使用体验与愿景有差距，工程架构有亮点，也存在安全风险，其产品哲学有价值但执行粗糙。

量子位专访小马智行CTO楼天城，他认为AI如脱缰野马，Harness是关键能力。小马智行发布PonyWorld世界模型2.0，人类不再是中心，AI成总教练，能自我诊断和定向进化，还探讨了诸多自动驾驶及AI相关问题。