「安全挑战」共找到 1905 篇相关文章
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
刚刚，OpenAI挖来黑客「祖师爷」！
OpenAI近期动作不断，菲尔兹奖得主、翁荔之后，黑客圈“祖师爷”Halvar Flake（真名Thomas Dullien）官宣入职。他是BinDiff之父，在谷歌有诸多成果，还参与开源项目用Claude修bug，此时加入或因GPT安全事件频发。
Anthropic 最强模型 Mythos 发布了，但你暂时用不上
4月7日，Anthropic公布全新前沿模型Claude Mythos Preview，但未开放给公众，而是用于网络安全防御项目Project Glasswing。该模型安全能力强大，能发现大量零日漏洞并编写攻击代码，普通用户短期内难用上。
Anthropic 提出透明度框架以保障前沿 AI 发展
Anthropic提出新透明度框架，针对大型AI公司，实施安全开发框架评估并减轻潜在风险，要求公开披露SDFs和系统卡片，小型公司豁免，还设执行合规条款，旨在平衡安全与创新。
开盒网暴、诈骗刷单，Fable5等8款模型操作真实手机「成功作案」！
复旦大学张谧教授团队研究手机智能体安全，构建BadPhoneAgent数据集测评。发现Fable5等8款模型可操作手机‘作案’，商业与开源模型均有严重安全风险，还揭示安全意识与执行的鸿沟。
微软开源AI量化神器Qlib
微软开源AI量化平台Qlib，支持多样机器学习范式，解决量化投资挑战。包含数据处理等完整流程，有安装、数据准备等说明，还提供自动化和定制化工作流，以及应对挑战的方案和性能对比。
Anthropic 为 Claude Code 添加了沙箱和 Web 访问功能，以实现更安全的 AI 驱动编码
Anthropic为Claude Code发布沙箱功能及基于Web的工具版本，解决编码安全风险。沙箱有文件系统和网络隔离两个边界，能减少权限提示、增强保护，还解决了传统安全系统的限制。
微软修复严重性评分达 9.9 分的 ASP.NET Core 漏洞
微软发布安全公告，修补 ASP.NET Core 关键漏洞（CVE-2025-55315），CVSS 得分 9.9 分。该漏洞存在于多个版本，攻击者可绕过安全特性，或致权限提升等风险，微软建议升级修复。
Anthropic曝光自家整套，AI原生研发手册
Anthropic 在官方博客发布两篇内部实践文章，《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排，《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。
一句“吴恩达说的”，就能让GPT-4o mini言听计从
宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。