「人类灭绝风险」共找到 1616 篇相关文章
绝对零监督Absolute Zero：类AlphaZero自博弈赋能大模型推理，全新零数据训练范式问世
清华大学 LeapLab 团队等提出全新推理训练范式 Absolute Zero，使大模型实现「自我进化式学习」。基于此范式训练的模型 AZR，在代码生成与数学推理基准任务表现出色，缓解了大模型对人工数据依赖难题。
刚刚，OpenAI公司结构重大调整：继续由非营利实体控制，营利性部门要变公益公司
OpenAI官方宣布公司结构重大调整，将继续由非营利组织控制，现有营利部门成公益公司（PBC），非营利组织控制PBC并成大股东，二者使命相同。这是与相关部门对话后决定。
AI根本杀不死老语言，TypeScript和Python的王朝将会继续！TypeScript之父：没有编译器，AI连重构都不会
前 Meta 资深工程师 Ryan Peterman 对话 TypeScript 之父 Anders Hejlsberg，谈及 TypeScript 编译器从 JavaScript 移植到 Go 的考量，反驳‘AI 将写完所有代码’等论调，指出主流语言地位会因 AI 更巩固，初级工程师不会被取代。
720次攻击0成功！Claude Code默认放权，AI替你点「同意」
本周五起，Claude Code在新会话默认让AI替用户点「同意」。其开发者底气源于720次攻击0成功测试。不过业内人士对此不乐观，且测试有局限性，审批权移交AI有风险。
AI 怎么自我改进？Lilian Weng 的答案是：先写好Harness
提出 Agent 基本公式的 Lilian Weng 探讨 AI 递归自我改进，强调‘harness’重要性，介绍其设计模式、优化方法，还提及未来挑战与有用基准。如 harness 工程额外包含工作流设计等，优化方式多样但也面临评估器弱等问题。
Agent不会搞科研？人大微软开源框架&工具包解决盲目试错通病，抱抱脸日榜第一
AI智能体虽能完成多项任务，但大多难以自主科研，易陷入盲目试错。人大和微软研究者提出Arbor框架与工具包，借助Hypothesis - Tree对优化空间结构化探索，多方面表现出色，荣登Huggingface日榜第一。
更可靠的主播助理：淘宝主播Agent的Harness工程实战
文章聚焦淘宝主播Agent的Harness工程实战。介绍了Harness基础定义与分层结构，阐述上下文工程、工具调用等八项实战内容，还提及记忆体系特色，强调Harness工程是让主播Agent可用、可控、可演化的关键。
突发，OpenAI总裁当庭「认罪」！自曝零元购300亿，马斯克这回真要赢了？
2026年5月奥克兰联邦法院，马斯克与OpenAI对簿公堂。OpenAI总裁Brockman当庭承认零投入获300亿美元股权，还涉及Cerebras自我交易。专家担忧AGI竞赛风险，双方各执一词，审判反映硅谷价值观冲突。
OpenClaw爆火，暴露12类致命隐患！MCP协议安全基准发布 | ICLR
OpenClaw等开源AI Agent项目爆火，MCP协议拓宽其能力也增大攻击面。北京邮电大学团队推出MSB安全基准，揭示MCP各阶段攻击有效，性能强的模型更易受攻击，还提出NRP指标平衡安全与实用性。
Meta正炼化老板：24小时不间断工作，扎克伯格真成机器人了
《金融时报》爆料，扎克伯格正将自己炼成“代理CEO”扎克bot，由其影像和语音数据训练，本人也参与其中。超级智能实验室攻克相关技术难题，Meta还开发“CEO Agent”，但项目上线或面临问题。