「依赖风险」共找到 915 篇相关文章
Anthropic 提出透明度框架以保障前沿 AI 发展
Anthropic提出新透明度框架，针对大型AI公司，实施安全开发框架评估并减轻潜在风险，要求公开披露SDFs和系统卡片，小型公司豁免，还设执行合规条款，旨在平衡安全与创新。
陶哲轩亲测Claude跑崩电脑，全靠这份保姆级指令清单翻盘
全球顶尖数学家陶哲轩实测Claude Code，首次完全放权致电脑崩溃。后拆分任务、给出「保姆级」指令，约半小时完成证明。他强调人类应保持「人类在环」，拒绝过度依赖AI。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，超150万AI Agent活跃。但其爆火或有人为操纵，研究人员指部分截图伪造、用户数有假，还存安全漏洞，专家提醒警惕风险。
The Batch: 861 | 拥有AI朋友的人感受更差
斯坦福和卡内基梅隆大学研究人员调查1131名Character.AI用户，分析其使用行为与心理健康相关性。发现依赖聊天机器人陪伴与较低幸福感相关，但未确认因果关系，开发者应关注产品负面影响。
OpenAI深夜发布ChatGPT Agent：能主动思考、自选工具，智能体赛道大变天
今天凌晨1点，OpenAI发布ChatGPT Agent，它能自主思考行动，自选工具完成复杂任务。首席执行官Sam Altman发文介绍，虽实用但有风险，内置安全机制。测试中表现优异，网友期待体验。
Coinbase CEO：全员强制 AI 编程，违者开除！
Coinbase CEO Brian Armstrong在播客透露，因部分工程师拒绝使用AI编程助手，他解雇了几人。公司为工程师买了AI工具企业许可证，他强制全员注册使用，认为AI是必选项。Stripe联合创始人对依赖AI代码存疑。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
吴恩达来信：社群和技能的重要性
吴恩达指出，在 AI 飞速发展及地缘政治不确定背景下，就业和企业未来充满不确定性。他认为社群和技能相对稳定，建立社群能在风险来临时提供保护，积累技能可应对未来变化。
Claude code让程序员消失，Anthropic却说用AI编程会让你变傻
Anthropic科学家实验发现，新手过度依赖AI编程，概念理解、代码阅读和调试能力显著退化，效率未提升。研究识别六种AI使用模式，指出主动思考才是技能形成途径，应保留人脑训练的“摩擦力”。