「智能体安全评估」共找到 4613 篇相关文章
进攻是最好的防守：超级平台为何「不得不」对AI智能体出手？
上海交通大学团队提出，超级平台“必须”攻击AI智能体，以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因，还阐述平台应对策略、攻击策略特点约束，最后强调要推动建设性技术治理生态。
八年研究沉淀，原方智能试图让机器拥有关于世界的「信念」
原方智能正式启动，由林浩鑫与唐开强创立，技术源于 LAMDA 团队八年研究。其目标是使机器在物理世界形成对世界的'信念'，以世界模型为核心技术路线，将研究成果推向开放物理世界。
关于具身智能「触觉」，你想知道的都在这篇综述里了
本文由香港科技大学（广州）熊辉教授团队牵头，联合多所高校，全面梳理截至2026年第一季度具身智能触觉前沿研究。介绍触觉重要性、多模态触觉融合流程、全景蓝图，指出面临挑战并展望未来。
击败GPT、Gemini，复旦×创智孵化创业团队「模思智能」，语音模型上新了
近日，由复旦邱锡鹏担任首席科学家的模思智能发布多说话人自动语音识别模型 MOSS - Transcribe - Diarize，性能超 GPT - 4o、Gemini 等。它解决语音领域落地痛点，跑分亮眼，还解决 SATS 方案不足，开放 API 限时免费。
AI竟会「自己认错」？破解多智能体协作「罗生门」，斩获ICML 2025 Spotlight
多智能体AI系统任务失败后，开发者常难定位问题。PSU、杜克大学与谷歌DeepMind等机构提出「自动化失败归因」，发布Who&When数据集，探索三种归因方法，虽目前效果欠佳，但为打造可靠系统提供方向。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
再见Bug！谷歌超级编码智能体Jules上线，免费使用直连GitHub
谷歌推出编程智能体Jules，进入全球测试阶段，有Google账户的开发者可免费试用每日5次。它基于Gemini 2.5 Pro模型，能写代码、修Bug等，还可连GitHub简化流程，预计今年晚些时候推更多功能和企业版。
刚刚，DeepMind通用科学智能体AlphaEvolve突破数学极限，陶哲轩合作参与
DeepMind发布革命性进化编码智能体AlphaEvolve，由LLMs驱动，可演化代码库、发现和优化算法。它结合LLM创造力与自动化评估，减少幻觉，在多领域应用前景大，还与陶哲轩合作探索数学应用。
微软推出深度视频探索智能体，登顶多个长视频理解基准
尽管LLMs和VLMs在视频分析和长语境处理有进展，但处理数小时长视频有局限。微软提出智能体Deep Video Discovery (DVD)，以简洁框架在LVBench取得高准确率，将以MCP Server形式开源。
AI能否「圣地巡礼」？多模态大模型全新评估基准VIR-Bench来了
来自日本高校和企业团队提出多模态大模型评估基准 VIR-Bench，用于评测 AI 对旅行视频中地理位置与时间顺序的理解。它将任务拆解，构建数据集，实验显示模型虽有改进但性能远未达标，指明了大模型进化方向。