搜索：安全更新 - AI Reading Hub

「安全更新」共找到 1398 篇相关文章

60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了

研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。

微软发布 Agent 安全框架 MAF，它是 AutoGen + Semantic Kernel 的统一继任者。有三层中间件，对 MCP 采样默认拒绝，还加了工具审批中间件，编排用图模型，为生产环境安全治理设计。

GitHub报告显示76%程序员用AI编程，代码安全成挑战。腾讯等团队建A.S.E评测框架，有项目级代码生成等优势，能评估代码安全、质量与稳定性，未来将扩充功能，邀开发者参与。

吴恩达团队用闭源模型做安全审查遇阻，后改用 OpenWorker 框架结合开源权重模型 Kimi K3 和 GLM 5.2 取得进展。他认为开放模型和执行框架能带来更安全系统，开源权重模型舆论战虽胜，但立法层面未胜。

过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。

OpenAI为每周服务300万开发者的Codex推送核心升级，号称Codex接管一切。它能独立操作电脑，贯穿开发周期，还有记忆与自动规划能力，更新逐步推送给相关用户。

Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。

昨晚OpenClaw重大版本更新，内容多到需单独做目录梳理。重点在ClawHub插件市场、多模型支持等。最重要变化是插件生态重心转向，且体系大改、工具能力收敛，还在多方面有更新，创始人指出正式版有功能加载问题。

OpenAI推出由GPT - 5驱动的自主安全研究智能体Aardvark，用于软件安全保障。它能持续分析代码仓库，识别并修复漏洞，目前在内部及合作伙伴代码库效果良好，正处私有测试阶段。

Anthropic宣布Claude的「Integrations」集成功能和「Advanced Research」高级研究能力两项更新，改变人与AI交互方式。集成功能可连接多种应用，高级研究能力增强了搜索研究能力，这些更新标志着AI助手向工作伙伴转变。