「安全框架」共找到 2452 篇相关文章
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
学术海报不用愁，一句话精准自动编辑，华东师大开源APEX
华东师范大学Planing Lab提出APEX框架，能通过自然语言指令实现学术海报局部可控编辑，引入「审查—调整」机制提升可靠性。还构建APEX - Bench评估，实验显示APEX优于其他方法。
开源TTS语音新标杆！Kyutai TTS：350ms延迟碾压全场，词级时间戳重构！
法国AI实验室Kyutai开源高性能TTS语音模型Kyutai TTS，基于DSM框架，支持流式输入、超低延迟与高保真语音生成，有多项亮点，还给出不同使用方式及应用场景。
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。
微软 Build 2025：AI 智能体时代与开放智能体网络的构建
微软 Build 2025 大会展示迈向 AI 智能体时代路径，如发布新功能助力开发者，让 AI 智能体更强大安全，支持开放智能体网络，还推出平台加速科学发现。
VLA别再「走神」：即插即用提升视觉泛化，相对Pi0.5提升18%
至简动力、北大、港中文团队发现VLA模型深层动作预测对关键视觉区域依赖下降，提出DeepVision - VLA框架，在仿真和真实任务中效果显著，能有效提升视觉泛化能力。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
李静海院士团队：未来数据系统的逻辑与架构 | Engineering
本文展望数据科学未来，强调其对AI重要性。探讨科学数据系统挑战，提出收集处理原则，指出要重视数据系统逻辑与架构研究，建立标准协议框架，促进AI健康发展。
读博最后一年转方向，拿到OpenAI offer：我的面试之路充满「意外」
布朗大学博士生Yong Zheng - Xin自宣下月加入OpenAI做AI安全研究。他博士最后一年转方向，分享求职经历，总结6个意外洞察，如求职重要的可能仅一两篇论文、面试形式多样等。