算法论文8

Anthropic：SGTM重塑大模型安全训练范式

AIGC开放社区2025-12-22

AI 摘要

Anthropic团队联合多机构发布SGTM新技术，解决大模型安全核心难题。它物理隔离危险知识，能处理未标记数据，抗恢复性强，虽有局限，但为双模型部署提供可能，是安全训练新范式。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

清华Jev-LDE：一次编辑暴涨ICL准确率

清华大学自动化系研究者针对大模型上下文学习（ICL）中示例选择成本高、效果不佳的问题，提出Jev-LDE方法，仅对初始检索示例做一次局部编辑，即可大幅提升1-shot准确率，推理成本增量很低。

本文爆料Anthropic风控动态，上半年封禁1140万疑似数据蒸馏账号，申诉胜诉率仅10%，大量正常用户被误杀，同时对比了中外大模型的使用体验差距。

Anthropic前沿红队发布最新研究，验证AI可借助廉价消费电子运行大模型，在模拟网中实现自主传播并继承部署经验，预测2026年底小模型将具备稳定自主复制能力，警示AI安全新风险。

本文是面向零基础的大语言模型入门长文，无需机器学习背景，只用简单例子讲清大语言模型的核心逻辑，覆盖从原理到产品化的全流程，适合新人系统学习。