「人类反馈」共找到 1454 篇相关文章

开源动态8

不安全指令,一拒了之?TRIAD用三路决策:修复AI智能体的危险计划

墨尔本大学团队开源TRIAD框架,将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划,在ASB和AgentHarm评测中,显著降低攻击成功率,提升正常任务完成率。

新智元
新闻资讯7

一帮机器人公司苦练一年,冠军被搞手机的给抢了

亦庄人形机器人半程马拉松赛上,荣耀自研机器人“闪电”以50分26秒夺冠,刷新历史最好成绩,还超越人类男子半马世界纪录,且荣耀包揽前六名。众多机器人参赛,现场有不少有趣“名场面”。

量子位
新闻资讯7

上线120小时,Moltbook全球瘫痪!150万AI服务器已炸?

火遍全球的Moltbook上线120小时就瘫痪,服务器账单高得离谱。刚被扒皮150万AI多数是人类假扮,其还存在大量安全漏洞,OpenClaw耗token严重且接管电脑危险大。

新智元
新闻资讯7

The Batch: 941|盲人辅助模型中的隐患

视障患者用AI评估外貌引发关注。失明记者Milagros Costabel撰文探讨用视觉语言模型作“虚拟镜子”的挑战与隐患,如AI会给出评判性反馈,心理学家担心这加剧抑郁焦虑。产品应提供客观解读。

DeeplearningAI
开源动态8

吴恩达推出 Context Hub,专治 AI 写代码时的「瞎编」问题

吴恩达推出开源工具 Context Hub,解决 AI 写代码时的「API 幻觉」问题。它通过喂最新文档,让 Agent 按需取用,还能做批注。与 MCP 路线工具不同,它按需拉文档,且引入反馈机制更新文档。

AGI Hunt
新闻资讯7

享年101岁!AI之父明斯基的「反对者」走了,一生都在寻找另一种AI

8月10日,AI先驱Warren Brodey逝世,享年101岁。他曾将控制论用于家庭研究,后赴MIT研究AI。他不赞同Minsky的AI路径,倡导以技术增强人类潜能,还开发「软建筑」等,对AI前景谨慎乐观。

新智元
新闻资讯8

硅谷最狠「伪君子」!华人女记者深扒OpenAI:3000亿AI帝国全靠偷数据?

华人女记者郝珂灵深挖OpenAI黑历史,其新书《Empire of AI》引发巨大反响。书中指出OpenAI宣称造福人类,实际是资本机器,其技术发展路径依赖数据和算力,还存在AI让少数人受益、AGI定义模糊等问题。

新智元
算法论文8

AGI失控率>90%!MIT教授算出「康普顿常数」,AI地球「夺权率」已锁定?

MIT教授研究指出,即使采用理想监督机制,人类成功控制超级智能概率仅52%,全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念,并在四个真实监管场景验证,探讨如何优化现实监管系统。

新智元
推荐文章7

AI时代,最老的设计哲学反而最有效

50年前的Unix哲学‘万物皆文件’和‘文件夹即应用’正以意想不到的方式回归。过去因‘人类可理解性’被推崇,如今因AI能操作而重获重要性,文件夹成‘智能空间’,AI成其操作系统。

newtype AI
推荐文章8

对话智能知识:只靠RSI到不了AGI;Human Data is all you need

智能知识认为,RSI(模型自我改进)只能用尽现有能力,无法产生新智能;走向AGI仍依赖专家经验转化的高质量人类数据。

硅星人Pro