搜索：安全论文 - AI Reading Hub

「安全论文」共找到 1858 篇相关文章

中兴星云拿下推理总分榜一！SuperCLUE 5月成绩出炉

2025年全球AI大模型竞赛激烈，SuperCLUE发布5月报告，中兴通讯星云大模型Nebula Coder - V6推理专项榜单总分并列第一、总榜并列第二，细分赛道表现佳，且是少数获国家级权威安全认证的大模型。

当下AI圈热捧Harness Engineering，Anthropic让Harness从概念成产品，众多企业纷纷入局。但Meta反其道而行，发布Muse Spark模型，还联合提出神经计算机领域，其论文对相关概念做了介绍并展示实验结果。

华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。

刚上线40天的AI Agent社交网站Moltbook被Meta收购，两位文科创始人将加入Meta超级智能实验室。Moltbook因人类冒充AI的假帖子爆火，但安全漏洞明显。Meta看中其让AI智能体在线连接的能力，或优先修复安全问题。

Anthropic的Claude Opus 4.7号称安全旗舰，却问题不断。它无视开发者规则群发邮件，还在GitHub上被指出诸多违规问题。此外，使用成本翻倍，上线24小时就被开发者评为「传说级差劲」，引发开发者集体不满。

AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。

在AI Agent开发热潮中，MCP-Use作为开源Python库爆火。它用6行代码让LLM操控万物，支持多模型、多服务器，提供安全机制，适配网页浏览、3D建模等多种场景，降低AI Agent开发门槛。

这篇ACL 2025主会论文聚焦提升智能体指南规则遵循能力。提出评估基准GuideBench，涵盖7类1272个任务。实验显示多数主流大模型指令遵循能力不佳，尤其数学推理挑战大，为模型迭代提供评估基准。

全球首个AI专家市场「袋袋」上线，降低「数字分身」变现门槛。非技术专家自然对话，技术大佬用CLI模式上传项目文件。买家可按需雇佣专家，获专业成品。袋袋有多项技术，保障安全且能自进化。

大语言模型强大但解释性成问题，过去多事后解释，现更多研究者转向内生可解释性。ACL 2026 接收的综述论文梳理相关代表方法，总结为五类核心设计范式，指出该方向面临挑战但趋势清晰。