「安全标准」共找到 1224 篇相关文章
对话清华商宇丨从生成视频到支撑行动，世界模型需要新的评测标准
文章围绕清华团队提出的 WorldArena 评测框架展开。它针对具身世界模型，对过去沿用视频生成的评测逻辑重新审视，从视觉质量和功能性任务两维度评估，推动世界模型从‘生成世界’迈向‘使用世界’。
Claude两周挖出火狐浏览器22个漏洞、14个高危！安全研究的游戏规则该变了？
近日，Anthropic与Mozilla合作，用Claude Opus 4.6测试火狐浏览器漏洞，两周内找出22个漏洞，14个高危。网友热议，有人赞其高效，也有人担忧攻击面变化。还测试了Claude利用漏洞能力，同时分享技术和流程实践。
谷歌重磅开源 A2UI，这将会是2026年Agentic UI的王炸级标准！
过去人和AI交互多靠文本框和语音，实际应用中存在问题。谷歌开源A2UI，是AI Agent和用户界面的中间层协议，核心是声明式JSON和客户端原生渲染，有多种能力，还给出快速入手步骤。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
视频「缺陷」变安全优势：蚂蚁数科新突破，主动式视频验证系统RollingEvidence
蚂蚁数科AIoT团队论文提出主动式可信视频取证系统RollingEvidence，利用相机卷帘门效应嵌入物理水印，结合AI与概率模型验证，抵御伪造篡改，在检测准确率和防护能力上优于传统技术。
如何实现可验证的Agentic Workflow？MermaidFlow开启安全、稳健的智能体流程新范式
随着大语言模型发展，多智能体系统成新前沿，「Agentic Workflow」受关注。但现有系统存在合理性难保证等问题。新加坡和南洋理工团队推出MermaidFlow，以Mermaid语言显式建模工作流，提升可解释性与可控性，实验性能优秀。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
LLM+RL遭严重质疑，随机/错误等虚假奖励也能提升至标准效果？
论文在AI领域观察到类似随机给糖或奖励错误答案让孩子成绩提升的现象，‘虚假奖励四大奇招’效果接近用标准答案训练，Qwen2.5 - Math - 7B模型在测试集上性能飙升，还揭示了Qwen特别的原因及随机奖励有效的推手。
程序员岗位暴增11%，华尔街研报击碎失业恐慌：你的饭碗比想象安全
一份‘AI末日论’报告引发华尔街恐慌，软件股市值蒸发超2000亿美元。Citadel Securities报告反驳，用数据表明软件工程师招聘增11%，失业率仅4.28%，指出AI普及慢且有物理边界，不是就业末日，能对冲经济下行。
大语言模型离“数学证明高手”还有多远？斯坦福、伯克利、MIT 团队提出 IneqMath 评测标准
现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。