「AI安全测试」共找到 10783 篇相关文章
OpenAI版抖音要来了！Sora 2加持，只能发AI生成视频
OpenAI正为视频生成模型Sora 2推独立社交应用，形态似TikTok，内容须AI生成，不可上传外部媒体。有独特身份验证功能，已内部测试获积极反馈，将与Meta、Google、TikTok竞争。
再封神！OpenAI掀翻AI图像生成，极度逼真，立刻商用
网传OpenAI的GPT-image-2正在灰度测试，韩国网友测试后称其生成图像可‘立刻商用’。它深度融合GPT大语言模型，生成照片更逼真，强化了提示遵循和场景理解能力，让AI图像生成进入‘实用时代’。
国内AI应用半年报告：App和Web应用月活都在跌，AI搜索需求被验证，百度是DeepSeek流失用户最大接盘手
QuestMobile发布2025年国内AI应用上半年报告，指出国内与海外市场情况不同，国内移动端和PC端AI产品月活下滑，AI搜索需求被验证，百度成DeepSeek流失用户最大接盘手，还分析了各类型AI应用发展态势。
微软 Build 2025：AI 智能体时代与开放智能体网络的构建
微软 Build 2025 大会展示迈向 AI 智能体时代路径，如发布新功能助力开发者，让 AI 智能体更强大安全，支持开放智能体网络，还推出平台加速科学发现。
具身智能能力狂飙，安全却严重滞后？首个安全可信EAI框架与路线图出炉！
具身人工智能发展迅速，但能力与安全出现“脱钩”。上海人工智能实验室和华东师范大学团队撰写论文，为“安全可信具身智能”建立理论框架与蓝图，提出成熟度模型、分析框架等。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
MetaGPT 用户智能体发布，开启端到端自主软件测试新范式！
当前AI软件领域代码生成智能化发展快，但测试验收仍靠手动，效率低。MetaGPT推出用户智能体，研究团队发布RealDevWorld框架和AppEvalPilot实现端到端自动化评测，解决复杂软件质量评估难题。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
Qoder Skills 完全指南：从零开始，让 AI 按你的标准执行
文章介绍Qoder Skills，它是强大AI定制方式，像菜谱让AI按标准执行。阐述本质、结构、原理，对比与其他工具差异，说明适用场景、安装方法，还有实战演示、编写规范、测试迭代及团队协作等内容。