「AI安全测试」共找到 11012 篇相关文章
一码难求的 Dia 浏览器，有了新进展
Dia 浏览器处于 Alpha 内测，需邀请码体验。测试反馈超预期，将打磨细节后发布。其优势是使用 AI 时能方便代入上下文信息，Chat 交互将成主流，Arc 部分功能会融合进 Dia。
遭黑客投毒、被网安圈群嘲蹭流量、英伟达建的沙箱半小时就被攻破！OpenClaw 之父揭开大模型圈最脏的潜规则
OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。
抢先体验GenFlow2.0：未来多Agent协作的理想形态
作者在百度邀测会抢先体验Genflow 2.0，用其解决小学教改信息查询问题，还让它生成创意图片。它得益于“沧舟OS”，有流畅、并发且跨模态能力，架构全自研，测试版亮点多，值得期待8月正式上线。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
挑战扩散自回归统治！字节提出视觉生成第三种路线，让模型像人类一样边画边改
五一期间字节商业化技术团队研发出新一代视觉生成模型，其底层架构是全新的第三条路——生成精炼网络GRN。它能让AI像人一样边画边改，解决了现有模型的问题，在多项基准测试中刷新SOTA记录。
谷歌黑魔法，没人能看懂的Gemini 3 Flash
Gemini 3 Flash速度快3倍且智力超Pro，但没人明白其更「聪明」的原因。它打破「参数即正义」逻辑，在多项测试领先。谷歌或靠TPU、算法、数据优化，还可能用了Titans架构，有重大战略意义。
新“SOTA”推理模型避战Qwen和R1？欧版OpenAI被喷麻了
“欧洲的OpenAI”Mistral AI发布首款推理模型Magistral，却再遭质疑未与最新版Qwen和DeepSeek R1对比。该模型亮点是支持多语言推理，以纯RL方式训练，为LLM强化学习提供新范式。
OpenAI首席科学家：发布前夜，我们差点砍掉ChatGPT！5个你不知道的惊险内幕。
文章分享OpenAI最新PodCast内幕。ChatGPT最初名又长又没记忆点，发布前夜高层因测试结果存争议。上线炸服，还曾因RLHF问题成“马屁精”。未来AI将向智能体化发展，招聘看重好奇心等能力。
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
上海AI Lab等团队提出MathFusion，通过三种“融合策略”生成新的融合数据集MathFusionQA，仅用45K合成指令，在多基准测试中平均准确率提升18.0个百分点，增强模型解决数学问题的能力。