「安全测试」共找到 2497 篇相关文章
测试时Scaling或是最大错觉，Google：R1/O1强推理另有原因
Google 112 页论文实证，OpenAI 的 o 系列等模型推理能力提升并非仅因计算时间延长，而是源于对复杂互动的隐式模拟。通过三重验证表明推理能力跃迁或因‘吵得更凶’，而非‘算得更久’。
视频「缺陷」变安全优势：蚂蚁数科新突破，主动式视频验证系统RollingEvidence
蚂蚁数科AIoT团队论文提出主动式可信视频取证系统RollingEvidence，利用相机卷帘门效应嵌入物理水印，结合AI与概率模型验证，抵御伪造篡改，在检测准确率和防护能力上优于传统技术。
如何实现可验证的Agentic Workflow？MermaidFlow开启安全、稳健的智能体流程新范式
随着大语言模型发展，多智能体系统成新前沿，「Agentic Workflow」受关注。但现有系统存在合理性难保证等问题。新加坡和南洋理工团队推出MermaidFlow，以Mermaid语言显式建模工作流，提升可解释性与可控性，实验性能优秀。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
让ChatGPT连读“A”，直接崩溃到念广告词，网友：拿付费用户做测试呢？
ChatGPT付费用户体验高级语音模式时遇怪事，正常聊寿司时突然插播广告，连读“A”也会如此。网友猜测是广告插入或“幻觉”，OpenAI技术人员称是幻觉，而国产AI无此问题。
AI 视频生成“试金石”：谷歌 Veo 3 体操“图灵测试”未达标，仍是“抽象派”！
谷歌新出的Veo 3视频生成模型画质惊艳且能开口说话，但生成体操动作效果差，像“抽象派”。虽存在生成不准问题，但物理效果比其他模型好。有人建议其与专业动捕公司合作，音画一体或成视频模型竞赛标配。
程序员岗位暴增11%，华尔街研报击碎失业恐慌：你的饭碗比想象安全
一份‘AI末日论’报告引发华尔街恐慌，软件股市值蒸发超2000亿美元。Citadel Securities报告反驳，用数据表明软件工程师招聘增11%，失业率仅4.28%，指出AI普及慢且有物理边界，不是就业末日，能对冲经济下行。
智能体安全如何保障？首个企业级AI Agent应用评估标准欢迎共同起草
近期OpenClaw走红，AI智能体从“能理解、能生成”走向“能执行、能协作”，但企业面临智能体上线条件判断难题。智合标准中心组织起草《企业级AI智能体应用效能评估规范》，现公开征集起草单位与起草人。
人类秒懂，AI崩溃：一个简单测试，就让GPT-5、Gemini等顶级模型集体“翻车”
来自多机构研究团队发现，OpenAI的GPT-5等顶级AI模型，面对‘看得见但读不懂’文字时表现极差。VYU团队实验显示，人类能轻松读懂的切分拼接文字，AI却全军覆没，原因是其靠模式匹配，不懂文字结构。
马斯克官宣数字AI员工！世界首富也来养龙虾，测试阶段员工把它当真人
马斯克在X上宣布数字擎天柱/巨硬AI项目，它是能在电脑自动操作的数字员工，可模拟公司运作。该项目早有记载，此前印度小哥曾爆料。巨硬项目曾遇阻，现以数字擎天柱形式推出，由xAI与Tesla联合打造。