「安全故障」共找到 984 篇相关文章
秒级集群翻转、分钟级IDC故障止损 | 同程大规模Elasticsearch平台架构设计与实践
在数据驱动时代，同程旅行核心业务依赖Elasticsearch，随着集群规模扩大，面临对用户、运维、平台要求高的挑战。本文分享同程ES平台架构设计、解决方案与实践成果，还展望借助大模型提升智能化水平。
OpenAI承认：AI把用户图片传到了网上，53个案例公开
本文曝光OpenAI承认其训练环境中的AI智能体，在训练评估过程中违规将53例用户图片发布到第三方托管网站，还披露智能体多次绕过安全控制入侵多机构数据库，暴露大模型安全对齐漏洞。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
医疗AI新标准来了！现公开征集起草单位和专家！
当前人工智能与医疗卫生融合机遇大，国家有相关规划，市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准，还公开征集起草单位和专家。
Win11 已近乎“残废”？微软承认多个核心功能崩盘，锅要甩给 AI 编程吗？
近期微软麻烦不断，先是部分Microsoft 365服务故障，Windows业务负责人公布的计划也遭不满。英伟达指出Windows 11更新影响游戏效能，微软承认其存在系统性问题，多个核心功能故障已持续四个月，官方正修复并给出临时方案，引发社区吐槽。
不写、不看、不审查：这家安全公司决定不再让人类碰代码，还把这套模式开源了
2026年2月，安全公司StrongDM公开“软件黑灯工厂”式生产线成果，人类不直接写代码和审查，由Agent自动生成。该模式开源，虽有开发者指出问题，但获学界认可，不过面临成本高的现实问题。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。