「红队测试」共找到 1847 篇相关文章
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
可能是比Lovable还好的Vibe Coding产品-MiniMax Agent体验
作者测试MiniMax Agent，用其生成法国景点介绍、艺术家作品对比、攻壳机动队分析等网页。它能自主找信息、整理，生成图、音等。和Lovable对比，它表现更优，还支持免费试用。
一个指令误导智能模型！北航等首创3D语义攻击框架，成功率暴涨119%
北京航空航天大学与中关村实验室团队提出全新框架InSUR，入选NeurIPS 2025。该框架可基于指令生成对抗样本，首次实现3D SemanticAE生成，从采样、建模、评估三方面突破，实验验证其有效性与可扩展性。
什么是芯片可测性设计（DFT）技术？
在芯片复杂度增加、测试难度增大的背景下，DFT技术应运而生。它是在芯片设计阶段引入测试逻辑的方法，分功能和制造测试，有扫描链、MBIST、边界扫描等核心技术，能提高测试效率、降低成本、缩短开发周期。
豆包大模型 Seed 2.0，有点不一样
大模型升级频繁令人审美疲劳，但豆包大模型Seed 2.0不同，其核心是Skills调用能力。作者测试了它做的小红书长图文排版生成器和古文翻译器，还体验了APP“专家模式”，展现多模态理解优势。
马斯克20亿送Grok 4上火星！20万GPU造宇宙大脑，一句话生成3D黑洞
发布72小时，Grok 4爆红硅谷，2分钟可部署游戏，一句话直出完整动画。xAI成立两周年，马斯克SpaceX将投20亿，或把模型送上火星。Grok 4算力强，多项基准测试刷新SOTA。
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
Dense、MoE之外第三条Scaling路径：交大提出JTok模块，省1/3算力
上海交通大学与小红书Hi Lab联合团队提出JTok/JTok - M模块，作为插件挂载在Transformer层，几乎不增算力和显存开销却显著提升性能。该模块构建新scaling路径，在多任务测试中全面提分，为大模型发展提供新方向。
5V5电竞版Prompt Battle来了，这是AIFUT大会最后的总结。
AIFUT大会结束，最后半天有圆桌、演讲与Prompt Battle电竞赛。余轶南谈具身智能和家庭机器人；5v5电竞赛红队夺冠；神思远等探讨影视行业；快刀青衣等交流AI创业；张泓等讨论AI投资；吕思彤分享开发经验。