「人类意图对齐」共找到 1446 篇相关文章
Ilya重新定义AGI: 为什么ChatGPT离真正的AGI还很远
OpenAI前首席科学家Ilya在访谈中提出对AGI的新定义，还指出AI规模时代结束，未来拼想法和研究深度。他分析模型评测强但经济影响弱的原因，阐述人类价值函数作用，且SSI战略或调整。
AI教父Hinton末日警告！你必须失业，AI万亿泡沫豪赌才能「赢」
AI教父Hinton警告，这场AI万亿美元豪赌，只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业，还批评部分巨头重商业竞争轻安全。此外，分析显示AI重创部分创意执行工作，不同岗位受影响程度有别。
Qwen全面升级非思考模型，3B激活、256K长文、性能直逼GPT-4o
Qwen全新非思考模型Qwen3-30B-A3B-Instruct-2507上线，仅激活3B参数，性能媲美顶尖闭源模型。相比前代，推理、对齐和长文本处理能力大幅提升，在通用能力上也全面进步，适合复杂人机交互应用。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
图灵奖得主杨立昆：中国人并不需要我们，他们自己就能想出非常好的点子
本文是对图灵奖得主杨立昆的访谈，他批判当前大语言模型局限性，指出难以靠扩大规模达人类水平AI。还强调理解世界需非生成式架构，如JEPA。同时以DeepSeek为例，称开源发展更快，中国人能想出好点子。
消费级具身智能跨越式新品：算力提升1000倍，对标英伟达Jetson Thor芯片，成本仅1/10！
蔚蓝科技发布新款机器狗 BabyAlpha A3，算力提升 1000 倍，对标英伟达 Jetson AGX Thor T5000 芯片，成本仅 1/10。它采用国产芯片，具身智能边缘端混合异构计算集群，感知超人类，实现全自主智能。
斯坦福「返老还童」新研究：无需干细胞，逆转关节损伤和老化
斯坦福医学院新研究聚焦关节，不依赖干细胞和置换手术，通过口服或注射药物实现软骨再生。实验表明，抑制15 - PGDH酶可提升前列腺素E2水平，逆转老年动物软骨流失，还在人类样本上验证了药物作用。
首发 | 陈天桥盛大团队，推出最强开源记忆系统EverMemOS
EverMind团队发布面向人工智能智能体的长期记忆操作系统EverMemOS。它在主流评测集表现超此前工作成新SOTA，受人类大脑记忆机制启发设计，有四层架构和三大特点，已开源，后续将推云服务。
只要科学任务能打分，AI就能实现SOTA结果 | 谷歌最新论文
谷歌最新论文提出，只要科学任务可评分，用大模型+树搜索，让AI大海捞针，就能找到超越人类专家的方法实现SOTA结果。他们开发的AI系统在多领域发明新方法，都达SOTA水平。
53.7% 高学历政企人员“看走眼”！公文写作AI智能体首次通过图灵测试
2025数博会期间双盲测试中，53.7%高学历政企人员将‘方寸智脑’生成公文误判为人类作品。它与华为云合作，解决政务AI落地困局，实现政务公文写作三阶跨越，已服务众多用户。