搜索：智能体安全评估

「智能体安全评估」共找到 4617 篇相关文章

破解300年数学难题，智能体大突破！谷歌发布超强AI Agent

今天凌晨谷歌Deepmind发布编程AI Agent——AlphaEvolve，它与Gemini深度集成，能评估算法。它解决了300多年的数学难题，还提出新算法，提升大模型计算效率，可优化GPU指令，架构含多模块。

大模型时代，金融智能投顾落地是技术与业务安全的双重挑战。北银金科高级算法专家尹辰轩表示采用“大小模型协同”架构，能在性能、准确性与合规间找平衡，还阐述了架构亮点、问题解决办法等。

大湾区大学GVC实验室和北京交通大学团队开源CutClaw，它是模拟专业后期流程的多智能体系统，能实现音乐驱动剪辑，按文字指令自动剪辑，适配多平台，还可解构素材。操作简单，支持多模型。

国产MiroMind公司在全球首个动态实时预测基准FutureX上夺冠，老板是陈天桥。其开源的MiroFlow v0.2智能体框架优势明显，能升级大模型能力，且成本低、可复现。MiroMind在预测赛道领先。

斯坦福和MIT团队推出新AI智能体推理框架ReCAP，在长上下文任务中全面超越ReAct，性能提升显著。它通过独特结构和三大机制解决大模型常见问题，虽成本增加，但在关键任务表现出色，潜力巨大。

微信测试中心IH-VQA团队在ICCV 2025 MIPI赛事夺冠，其首创的iDetex方案刷新业界标准。该方案能精准定位图像失真，提升评估可解释性，已在微信多业务落地，未来将深耕多模态质量评价等领域。

在 2025 年 QCon 全球软件开发大会（北京站）上，阿里云算法专家张颖莹分享《AI 驱动的智能异常处置：从异常发现到根因定位》。她介绍阿里云计算平台运维挑战，给出算法选型与设计思路，还提及后续平台建设规划。

文章介绍面向企业级软件测试的质量数字人系统，结合大语言模型等实现从传统到自主智能测试跨越。分析专有云测试困境，指出通用AI Agent平台局限，阐述系统设计、能力及架构，展示应用成果并展望扩展场景与未来计划。

CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。

Anthropic发布53页报告预警，Claude Opus 4.6风险逼近ASL - 4，若自我逃逸将致全球失控。2026年AI领域状况频出，安全专家离职，多起危险事件凸显AI安全问题严峻。