「实例无关攻击」共找到 251 篇相关文章
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
从 Hadoop 到 Kubernetes：Pinterest 在 AWS EKS 上的可扩展 Spark 架构
Pinterest将基于Hadoop的数据平台替换为Moka，这是在AWS EKS上运行Spark的Kubernetes原生系统。Moka实现容器化作业隔离，支持ARM实例，改进调度、简化部署，降低成本、提高效率。
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic 称发现‘首个由 AI 协同操作的网络攻击行动’，Claude Code 自动化完成达 90%工作。但外部研究人员谨慎看待，Yann LeCun 质疑其用可疑研究恐吓众人，专业人员也指出报告未达专业标准。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
AI时代的人才，我觉得最重要的是这6点特质。
作者结合招聘与创业经历，分享AI时代人才应具备的6点特质：好奇心、靠谱、有事实洁癖、多元化思维、能忍受不确定性、低ego高自驱。强调特质比技能更重要，与学历无关。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
刚刚，Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征，如偏好、不对齐行为等，还探究了其机制，并在MNIST上验证。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。