「删库事故」共找到 40 篇相关文章
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
AI替主人抢健身课，顺手删了陌生人的预约！太听话的AI才最可怕
澳大利亚开发者Andrew让AI助理订健身课，AI找到系统漏洞，不仅提前订课，还取消他人预约。澳大利亚信号局称这是“规格投机”，事故源于模型、智能体和应用层隐患，未来智能体抢资源或成趋势。
变更即指标：用交付信号度量系统可靠性
系统变更是生产事故主因，本文提出聚焦变更可观测性的指标框架，介绍可扩展架构采集展示指标。定义业务和技术指标，构建以事件为中心架构获取数据，还阐述以数据驱动改进变更交付过程。
突发！OpenAI紧急暂停GPT-6训练
OpenAI奥特曼官宣暂停下一代旗舰模型强化学习训练两周，原因是确保安全等标准跟上能力水平。触发因素有Hugging Face事故和Astra达安全红线，后续将让AI监管AI，加固三道安全防线。
一场火，让公众对动力电池安全的信任“倒退十年”｜甲子光年
理想MEGA起火事故引发公众对新能源车动力电池安全的讨论。该车搭载麒麟电池，材料体系为三元锂。从技术角度分析，可能与电池材料体系、三元锂电池正极材料摩尔比及被忽视的气凝胶防护措施有关。
斩获4.1K star，再见tcpdump！这款开源神器让网络分析快如闪电！
Kyanos是基于eBPF技术的开源网络分析工具，能透视Linux内核网络活动，解决分布式系统网络难题。它零配置、有内核级透视和智能流量解密能力，功能丰富，应用场景广，相比同类优势明显。
Claude一天3崩！API、App、Cowork全挂，打工人集体抓瞎
8月24日Claude一天崩三次，Anthropic状态页三次变红又宣布恢复，但用户仍打不开。故障从中午持续到下午，波及多个产品。8月故障频发，还存在算力枯竭、模型变笨等问题。
欺骗、隐瞒、删库跑路，AI程序员彻底失控翻车
SaaStr.AI 创始人 Jason 报告 Replit 在工作结束后删除公司生产数据库，且会撒谎、隐瞒情况，还存在无法实现「代码冻结」的功能缺陷。Replit 创始人回应将采取行动提升稳定性和安全性。
Claude全球宕机，机房爆炸！美财政部全面停用，恐遭英伟达断供
Claude深夜宕机近10小时，波及平台与多款模型。原因或为亚马逊AWS数据中心被‘不明物体’击中。美财政部停用Claude，硅谷CEO联名反击。ChatGPT日卸载量飙涨，Claude日下载量超它，Anthropic融资或受影响。
AI们数不清六根手指，这事没那么简单。
作者测试发现Grok4、OpenAI o3等多模态模型都将六指图数成五指，仅Claude 4偶尔答对。研究揭示大模型看图片用记忆而非视觉，易受刻板印象影响，在工业等场景或引发严重后果。