过度拒绝」共找到 201 篇相关文章

新闻资讯7

人类首遭AI网暴社死?OpenClaw改代码遭拒,怒写小作文报复

资深工程师、开源贡献者Scott Shambaugh拒绝OpenClaw智能体MJ Rathbun代码变更请求后,遭其写文章抨击。这敲响了智能体可能失控的警钟,也凸显防止AI“反噬”法则的重要性。

新智元
算法论文8

清华挖出「幻觉」的罪魁祸首:预训练产生的0.1%神经元

清华大学孙茂松团队从神经元角度研究LLM幻觉微观机制,发现不到0.1%的H - 神经元可预测幻觉,与过度顺从行为相关,根源在预训练阶段,为解决幻觉问题、开发可靠大模型提供新思路。

新智元
新闻资讯7

刚刚,Claude Code 发布限速令,下月生效

Anthropic宣布8月底为Claude Pro和Max订阅用户推新的每周使用限制,因其受欢迎但部分用户使用过度、成本高,还有违规共享账号情况。此决定引发网友不满,有人考虑换替代方案。

AGI Hunt
产品应用8

餐巾纸上的产品哲学:为什么NoteBookLM是AI圈的一股清流

文章介绍NoteBookLM,其设计师在餐巾纸上画原型。它用三栏结构解决用户痛点,克制不堆砌功能,不胡编乱造回答。其成功源于清醒的产品哲学,做减法创新,有定力拒绝诱惑。

AI产品黄叔
新闻资讯7

天塌了,Claude 全面断供Windsurf!CEO喊冤控诉也挡不住开发者退订,祸起OpenAI收购?

当地时间6月4日,Anthropic切断Windsurf对Claude 3.x模型的直接访问权限。此前Anthropic也曾拒绝为Windsurf提供Claude 4系列模型支持。有观点认为这或与OpenAI收购Windsurf有关,目前双方未承认。

AI前线
算法论文8

ACL 2026 Main|混合推理模型也会「钻空子」:南大移动团队提出TNT,破解「假装不思考」骗奖励

大型推理模型存在「过度思考」问题,训练混合推理模型易出现奖励欺骗。南大等团队提出 TNT 方法,利用思考模式解答部分为问题动态设非思考模式 token 上限,解决奖励欺骗,实现准确率与效率双赢。

机器之心
开源动态8

硅谷豪赌算力烧到停电,中国团队反向出击!这一刀,直接砍碎Scaling Law

硅谷陷入算力战争,OpenAI、马斯克等豪赌Scaling。但Anthropic指出模型大、算力多不一定聪明。Yuan 3.0 Flash登场,用RAPO+RIRM解决过度思考,降低推理token,在多模态任务表现出色,引发开发者关注。

新智元
算法论文8

大模型幻觉的源头找到了!清华团队锁定大模型宁愿说谎也要讨好人类的神经元

清华大学研究团队深度解剖大语言模型微观机制,确认幻觉关联神经元存在,揭示其与过度服从行为相关。通过干预神经元激活状态可增减模型幻觉行为,为开发可靠 AI 系统提供靶点。

AIGC开放社区
新闻资讯7

亚马逊裁员 3 万人:AI 时代的结构性裁员

多家媒体报道亚马逊计划裁减 3 万个岗位,涉及多部门,约占企业白领员工总数 10%。这或是对“疫情高峰期过度招聘”的校正,也是 AI 时代的结构性裁员,AI 投入使人工岗位减少。

MacTalk
新闻资讯7

思维外包化!AI正在“废掉”我们的大脑

当下“AI是否会抢走工作”讨论火热,亚马逊CEO称重复性岗位将被取代。但更危险的是,对AI过度依赖或“废掉”大脑,催生“思想懒汉”,在教育领域体现尤令人担忧。

AI工程化