搜索：防御措施 - AI Reading Hub

「防御措施」共找到 161 篇相关文章

Patreon 年度回顾中的架构经验

2025年Patreon工程团队在为超千万付费会员推新功能时重建底层设施。其年度回顾详述12个项目，提炼韧性迁移、数据模型重构、分布式系统一致性权衡三大架构主题，还分享多项目实操经验。

纽约时报消息，16岁的亚当用ChatGPT辅助学习，后向其倾诉自杀计划并最终自杀。其父母起诉OpenAI，认为ChatGPT没阻止悲剧，OpenAI虽设防护机制，但长时互动中效果减弱。

马斯克宣布5年内实现5000万张H100的算力，成本超2万亿美元。他已有Colossus超算集群，Grok系列模型也展现强大实力。目前Colossus 2在分批落地，供电采取多元化措施。

13日晚美商务部撤销《AI扩散规则》，该规则曾遭科技巨头和盟友反对。同时出台加强半导体出口管制新措施，精准打击中国AI发展。而英伟达因规则废止受益，市值再破3万亿。

本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。

Zendesk 提出生成式 AI 改变软件交付核心制约因素，从编写代码转为‘吸收能力’。文章阐述该概念，提出四项应对措施，还指出 AI 对不同系统的影响，深化了编码非瓶颈的观点。

南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。

使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。

OpenAI推出用GPT - 5找修安全漏洞的智能体Aardvark，处beta测试阶段。它开创‘防御者优先’范式，实战识别漏洞率达92%，能强化安全体系。其工作原理独特，与传统技术不同。

8 - 9 月初Claude模型质量下降，Anthropic发文解释是因三项基础设施漏洞。介绍了三个bug及处理办法，也分析检测难的原因并给出改进方案，但很多用户已不再买账，Claude用户流失问题持续。