「智能体安全评估」共找到 4613 篇相关文章
4万星开源项目被指造假！MemGPT作者开撕Mem0：为营销随便造数据，净搞没有意义的测试！
高人气开源智能体记忆项目Mem0在论文中称在LOCOMO上打败所有人，MemGPT联合创始人公开指控其测试无意义、数据造假。二者都为解决大模型长期记忆问题，Letta认为能力比工具重要，并给出评估智能体记忆能力的方法。
我们离Coding领域的「AGI时刻」还有多远？字节跳动Seed发布NL2Repo-Bench仓库级长程代码生成基准
在AI编程领域，大家认为Coding领域的AGI似乎可以实现，然而真正的项目开发要求更高。近日，字节跳动Seed等联合发布首个评估编码智能体端到端仓库生成能力的基准测试NL2Repo - Bench，还介绍了其构建、评估等情况。
Veo何止生成视频：DeepMind正在用它模拟整个机器人世界
通用型机器人策略发展带来挑战，传统评估方法有局限，前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统，经实验验证有效，展示了视频仿真评估的可行路径。
一篇19种自进化Agent Skill框架最新综述
这篇来自Rutgers大学和UNC Charlotte的survey，首次系统梳理Agent技能的进化与评估全貌，覆盖19种技能进化方法和10个评估基准。指出当前评估体系有诸多不足，如无法追踪技能多轮反馈后是否变好等。
大语言模型逻辑评估
现有归因问答评估方法有‘归因短视’问题，研究团队提出 LOGICSCORE 框架，从三维度量化推理质量。在多数据集测试多款 LLM，发现专有、开源模型等存在不同逻辑问题，还分析典型逻辑错误。
山姆•奥特曼刚发长文：《丰盛的智能》，智能将人人可及
Sam Altman 发布新博文《Abundant Intelligence》，展现 OpenAI 的 AI 基础设施愿景。他认为获取 AI 将成经济驱动力甚至基本人权，还提出每周产一吉瓦 AI 基础设施工厂的计划，称增加算力是增收关键。
开源全合一智能体沙箱
AIO Sandbox是开源全合一智能体沙箱，将浏览器、Shell等整合到同一容器，提供统一安全开发执行环境。解决传统沙箱问题如文件共享难，有统一文件系统等优势，文中介绍其安装、用法、特性等。
AI coding 智能体设计
文章从分析Gemini - CLI源代码入手，解读AI coding工具智能体设计。涵盖用户提示词预处理、工具注册与调用、架构设计、预置提示词等内容，还对比了Gemini - CLI和Claude Code可扩展性设计，介绍规约驱动开发模式。
智能体时代的人月神话
作者 Wes McKinney 因 AI 打乱睡眠作息，在工程师圈子热烈讨论人类技术优势。他开发 RoboRev 工具，结合《人月神话》探讨软件工程未来，指出智能体虽提升生产力，但面临本质复杂性、范围蔓延等问题，设计与品味仍至关重要。
解放双手！开源 AI 桌面智能体
桌面智能体Bytebot是拥有专属计算机的人工智能，有完整虚拟桌面。它能使用任意应用、处理文档等。赋予AI独立计算机可解锁新能力，项目地址为https://github.com/bytebot-ai/bytebot。