搜索：智能体防御框架

「智能体防御框架」共找到 4680 篇相关文章

当心！腾讯、字节等揭示，OpenClaw有无法修复的安全死结

加州大学等机构团队发布对OpenClaw安全的深度分析报告。它是广泛部署的个人伴侣智能体，运行依赖进化理念，但记忆文件成攻击入口。研究在真实网络测评，发现其安全漏洞大，且难以找到进化与安全的完美平衡。

腾讯混元团队开源仅3B参数的HiVG，它是面向SVG生成的层次化分词框架，减少63.8% token数量，多项指标超越GPT-5.2等闭源模型及8B级开源模型，还在人类评测中表现出色。

中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。

谷歌CEO官宣发布谷歌版Agentic电商解决方案，从UCP协议到Gemini CX，AI Agent贯穿购物全流程，可自动比价下单、领券等。国内阿里、京东、抖音等电商平台也在积极布局智能体电商。

今天凌晨，ChatGPT 模型升级为 GPT-5.1，官方主打更智能、更具对话性。它有 GPT-5.1 Instant 和 GPT-5.1 Thinking 两个子模型，本周内逐步向所有用户免费开放。升级重点在模型能力和个性化设置。

马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。

Claude 4核心成员对谈指出，强化学习在语言模型上奏效，可验证奖励的强化学习（RLVR）比RLHF更优，模型有望从「专才」向「通才」过渡，未来AI智能体将完成白领工作，人们应做好准备。

本文解读浙大、字节跳动、香港中文大学（深圳）联合收录于ECCV 2026的PointSplat研究，针对3D高斯溅射的跨视角冗余问题，提出以人为中心的新框架，解决3D表示体积过大问题，适配实时场景。

2026年5月4日，GOSIM Paris 2026 AI Vision Forum在巴黎举行。菲尔兹奖得主、scikit - learn守护者等全球顶尖AI专家共话AI。全天议程涵盖智能体AI系统、AI教育应用等四大核心议题，强调面对AI浪潮，开放才能让人类居核心。

现有视频世界模型在长时间交互中易出现运动不合理与场景崩坏问题，核心原因是误差累积。MagicWorld提出面向长时稳定性的交互式建模框架，通过光流约束、历史缓存检索和多步聚合训练，有效缓解误差累积。