「安全风险」共找到 1268 篇相关文章
CVPR 2026 Workshop征稿｜第六届AdvML@CV：多模态大模型智能体安全
IEEE/CVF 计算机视觉与模式识别会议 CVPR 2026 6月3 - 7日在美国丹佛举办，期间6月3或4日将举办第六届对抗机器学习计算机视觉研讨会，聚焦视觉 - 语言智能体安全，现开启论文征稿并公布重要日期，给出投稿入口。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
6K+ star神器！Docker也能跑桌面了，安全隔离还能硬件加速，太绝了！
文章介绍开源工具`x11docker`，它专为 Docker、podman 等设计，能让图形应用在容器正常运行，增强隔离性、避免安全隐患。该项目获 6K+ Star，功能丰富，安装使用简单。
谷歌创始人罕见反思：低估 Transformer，也低估了 AI 编程的风险，“代码错了，代价更高”
谷歌联合创始人 Sergey Brin 在公开对话反思，低估了 Transformer 和 AI 编程风险。他认为 AI 写代码易出错，更适合创意类工作。还回顾谷歌发展，提及早期研究的自由氛围及后来的决策，指出算法进步比规模扩张快，算力如甜点。
AI发现医生看不见的隐藏心脏病风险，近90%准确率远超人类专家｜Nature子刊
登上《Nature》子刊的研究显示，约翰霍普金斯大学团队开发的多模态AI模型MAARS，用深度学习处理原始MRI图像，实现对心源性猝死风险高精度预测，准确率达89%，还能辅助制定个性化医疗方案。
谷歌创始人罕见反思：低估 Transformer，也低估了 AI 编程的风险，“代码错了，代价更高”
谷歌创始人 Sergey Brin 在斯坦福公开对话中反思，谷歌曾低估 Transformer 和 AI 编程风险。他认为 AI 写代码易出错，更适合创意类工作。还回顾谷歌发展，指出虽有研发积累，但曾投入不足，强调算法比算力更关键。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。