「恶意行为」共找到 276 篇相关文章
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
突破125年世纪难题！北大校友联手科大少年班才子破解希尔伯特第六问题
1900年希尔伯特提出23个数学难题，其中第六个‘物理学的公理化’被称为数学物理的终极挑战。125年后，北大校友邓煜、中科大少年班马骁与陶哲轩高徒扎赫尔・哈尼在该问题上取得重大突破，填补了牛顿力学与玻尔兹曼方程间的逻辑鸿沟。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
刚刚，OpenAI GPT-6 Astra震撼发布！AGI时代来了
OpenAI正式发布GPT - 6 Astra，总裁称已到AGI时代。该模型定位为“世界上最智能、最对齐的模型”，在多领域表现出色，能力强、速度快、成本低，还具备“关键级”网络安全能力，将逐步开放给用户。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
OpenClaw安全有救了！不改内核、无视AI内部逻辑，数学级枷锁驯服暴走智能体
OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
Claude神之bug：给自己下指令，还诬赖用户？？Hacker News炸了
强如Claude也现诸多bug，如分不清发言角色，把恶意注入指令当用户请求。技术根源是Transformer架构注意力机制盲区。网友给出避坑方案，还吐槽Claude算力调整、计费乌龙等问题。
TanStack Start 推出导入保护机制，强化服务器与客户端边界划分
TanStack Start引入基于Vite的导入保护功能，防止服务器与客户端代码相互泄露，默认在新项目启用。该功能以插件形式运行，开发和生产环境行为不同，还能添加自定义规则，用户反响积极。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。