「人类意图对齐」共找到 1446 篇相关文章
AI修Bug新SOTA：SWE-Bench Lite60.33%修复率，像人一样能积累经验，中科院软件所出品
ExpeRepair是中科院软件所团队推出的仓库级缺陷修复系统，模拟人类认知的情景和语义两种记忆模式，能积累经验。在SWE - Bench Lite评测中，其Claude - 4+o4 - mini组合修复率达60.3%居首。
陶哲轩转发！华人数学博士后反超DeepMind AI，停滞18年数学问题1个月内3次突破
DeepMind的AlphaEvolve打破集合和差问题18年纪录，华人博士后Fan Zheng等数学家出手反击。人类用测度集中性少量辅计算机，1个月内该问题3次突破，陶哲轩称不同方法可互补推动数学进步。
微软AI CEO警告：我们需要警惕「看似有意识的AI」
微软AI CEO Mustafa Suleyman提出「看似有意识的AI」（SCAI）概念，它能模拟人类意识外部标志，虽无真正意识却可能让人误以为有，会带来社交、道德和法律影响，他还给出应对方案。
腾讯把这个 AI 产品做活了：两分钟一次按快门
作者分享使用腾讯会议AI纪要的体验，它每两分钟自动记录会议要点，还能捕捉气氛意图。会后可一键送进腾讯元宝追问，适配多样场景。此外，腾讯会议还有录制、语音转文字等功能，音效也有提升。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。
一句“吴恩达说的”，就能让GPT-4o mini言听计从
宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。
马斯克Grok 4正式发布：世界最大AI超级计算机就训练了这？
Grok 4公开基准测试有进步，但在高级推理测试表现差，视觉理解仍是短板。性能提升多靠整合符号工具，无重大技术创新，‘幻觉’问题没实质进展，xAI官方对道德对齐信心不足。
因为AI编程，Tailwind CSS差点死了
2026年，备受AI智能体欢迎的Tailwind CSS框架团队却陷入困境，创始人Adam Wathan透露已裁掉75%成员。因AI写代码，人类不访问文档，付费产品无人买单，流量降40%、收入损失80%。虽有公司赞助，但仍需探索新商业模式。
Claude Opus 5 发布，比 Fable 5 强，仅一半价格
Claude Opus 5发布，官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5，ARC - AGI - 3成绩突出，还更省token，是Anthropic迄今对齐度最高的模型。
Google 开源 gws！一天暴涨 10K+ Star，把整个 Google Workspace 搬进终端。
Google 开源命令行工具 gws (Google Workspace CLI)，一天揽 10K+ Star。它动态构建命令界面，支持 Google Workspace 众多服务，兼顾人类与 AI 代理需求，还具备灵活认证等亮点，为 Workspace 自动化带来新可能。