「安全风险」共找到 1220 篇相关文章
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
Claude Code惊人身世曝光！竟脱胎于安全对齐，Boris：才完成1%
Claude Code起源于Anthropic内部安全对齐项目，其发展历经波折。从2021年早期尝试，到2025年正式发布，期间突破重重技术难题。虽已改变硅谷运转方式，但核心开发者Boris称只完成1%。
这帮清华的，造了一个让龙虾“安全着陆”的新物种
在OpenClaw热潮中，隐私保护缺位成企业和开发者难题。无问芯穹推出InfiniClaw Box，独创‘三段式’架构，适配全模态信源，解决数据安全与模型能力兼顾问题，还与多家企业合作拓展应用边界。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
CVPR 2026 Workshop征稿｜第六届AdvML@CV：多模态大模型智能体安全
IEEE/CVF 计算机视觉与模式识别会议 CVPR 2026 6月3 - 7日在美国丹佛举办，期间6月3或4日将举办第六届对抗机器学习计算机视觉研讨会，聚焦视觉 - 语言智能体安全，现开启论文征稿并公布重要日期，给出投稿入口。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。