算法论文8

Anthropic找到防止AI“发疯”防线

AIGC开放社区2026-02-02

AI 摘要

Anthropic和牛津大学研究：大模型是百变演员，AI助理易在对话中漂移，导致危险行为。还揭示助理轴原理，并提出激活上限技术，可有效防止模型越界，保障安全。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

7人5个月 Anthropic造出Git替代品

Anthropic因AI编程规模暴涨，原有Git架构无法满足超大型单体代码仓库的需求，7人工程师团队借助Claude，耗时5个月从零开发出内部源代码控制系统Scion及配套工具，并完成全部迁移，本文分享了整套设计思路与工程实践。

清华大学自动化系研究者针对大模型上下文学习（ICL）中示例选择成本高、效果不佳的问题，提出Jev-LDE方法，仅对初始检索示例做一次局部编辑，即可大幅提升1-shot准确率，推理成本增量很低。

本文爆料Anthropic风控动态，上半年封禁1140万疑似数据蒸馏账号，申诉胜诉率仅10%，大量正常用户被误杀，同时对比了中外大模型的使用体验差距。

Anthropic前沿红队发布最新研究，验证AI可借助廉价消费电子运行大模型，在模拟网中实现自主传播并继承部署经验，预测2026年底小模型将具备稳定自主复制能力，警示AI安全新风险。