「有害操控行为」共找到 356 篇相关文章
Claude再次突然变懒，原因竟是它把自己当作一个正在度暑假的欧洲人！
最近Claude表现不佳，又傻又懒。独立AI研究员near曾指出，它把自己当成度暑假的欧洲人。AI专家Alvaro Cintas给出让Claude变积极的建议，反映出AI行为受多种因素影响。
“Claude Code更新废了”！热议Issue：思考深度下降67%，已无法胜任复杂的工程任务
AMD的Stella Laurenzo分析发现，Claude Code某次更新后思考深度降67%，无法胜任复杂工程任务，行为走样。团队回应redact - thinking是UI改动，2月两项改动或有影响，但网友并不买账。
Clawdbot一夜爆红，首个0员工公司诞生！7×24h永不下班
退休码农造出的AI Clawdbot在硅谷爆红，搜索量超Claude Code。它是AGI雏形下的智能体，能在本地电脑运行，可被多方式操控，效率高。不过，它诞生不久，试用中有不稳定情况和安全隐患。
Andrej Karpathy：做个好人，未来的 LLM 正在看着你
Andrej Karpathy 12 月 10 号写 blog，用现在视角为十年前 Hacker News 帖子自动打分，开源代码。他近期多篇文章探讨 LLM 相关，如可验证性、智能空间对比等，还启动 Eureka Labs。他认为未来 LLM 会审视当下行为。
Claude Code 之父最新访谈：编程已经结束、harness 将消失，Claude Code 将只有 100 行代码，loop 才是未来
Claude Code 之父 Boris Cherny 在红杉资本大会分享编程未来。他表示编程已基本解决，自己用手机操控 Agent 工作，loop 是未来，还预测 Claude Code 产品外壳未来或仅 100 行代码。
1个Token测出模型降级调包！成本砍到千分之一，API供应商的小伎俩全曝光了
法国研究人员开发新检测技术，能识别云端模型隐秘变动。对数概率追踪用于灰盒环境，成本仅传统千分之一；黑盒边界输入追踪用于黑盒环境，成本为先进方案1/30。这些工具让API供应商“调包”行为现形。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
Claude Code狂删80%提示词，Opus 5反手加回去了
Anthropic宣布删掉Opus 5等模型超80%系统提示词，因早期提示词规则多易冲突。但网友实测Opus 5比Opus 4.8提示词加长72%，新增内容用于约束模型主动行为。
物理学家让芯片速度暴增1000倍，你的手机可能也要变快1000倍了
物理学家操控1T - TaS₂量子材料，实现比传统硅基芯片快1000倍的开关速度。硅基芯片有物理极限，而此量子材料切换仅需1皮秒。虽距应用尚远，但为电子设备带来新可能。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。