搜索：有害操控行为

「有害操控行为」共找到 356 篇相关文章

突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务

9月5日，Anthropic公司宣布禁止多数股权由中国资本持有的集团或其子公司使用Claude，政策调整涉及“直接或间接由中国实体控制（占股比例超过50%）”的企业，也适用于俄、伊、朝等国。

9月5日，Anthropic宣布禁止多数股权由中国资本持有的集团或子公司使用Claude。政策调整涉及多种中国背景企业，也适用于美“对手国家”，还意在遏制中方获取先进AI技术，引发行业关注。

Minitap开源的手机Agent登顶AndroidWorld开源榜首，亮点是能操控安卓与iOS模拟器。用户用自然语言就能完成复杂任务，还具备跨平台控制、全场景交互等特点，项目可快速部署。

美国成人影片制作公司Strike 3 Holdings指控Meta自2018年起下载并分享2396部成人影片，约81.7TB，用于训练AI模型，涉嫌严重侵权。Meta未回应，文章还分析了用成人影片训练AI的可能原因。

普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。

1900年希尔伯特提出23个数学难题，其中第六个‘物理学的公理化’被称为数学物理的终极挑战。125年后，北大校友邓煜、中科大少年班马骁与陶哲轩高徒扎赫尔・哈尼在该问题上取得重大突破，填补了牛顿力学与玻尔兹曼方程间的逻辑鸿沟。

Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。

OpenAI正式发布GPT - 6 Astra，总裁称已到AGI时代。该模型定位为“世界上最智能、最对齐的模型”，在多领域表现出色，能力强、速度快、成本低，还具备“关键级”网络安全能力，将逐步开放给用户。

Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。

合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。