搜索：智能体安全 - AI Reading Hub

「智能体安全」共找到 4135 篇相关文章

Anthropic万名工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭

昨日，OpenAI 宣布收购 AI 安全初创公司 Promptfoo，其技术将整合进 OpenAI Frontier 平台。该公司由 23 人创立，开发开源工具测试 AI 系统安全。收购后 Promptfoo 保持开源，OpenAI 将新增相关功能。

Sam Altman认为人类已跨过临界点，构建出超人类智能系统，虽未现科幻场景，但显著提升生产力。预计2025 - 2027年AI有重大进展，奇点是渐进过程，要解决安全与可及性问题。

Dexter 是自主运行的金融研究智能体，类似金融版 Claude Code。能处理复杂金融问题，有智能任务规划等核心能力。文章介绍其先决条件、安装、运行、评估、调试方法及项目地址。

面壁智能开源全模态模型MiniCPM-o4.5，能边看边听还主动抢答。它引入全双工多模态实时流机制，在多方向达全模态模型领先水平。该模型是端侧原生，将与开发板配套，助力端侧智能硬件开发。

TradingAgents是模拟真实交易公司运作的多智能体交易框架，用LangGraph构建，有灵活性与模块化特点。由7种LLM驱动的专业智能体协同评估市场、制定决策，还介绍了架构和实战操作。

claude-init 是 Claude Code 项目初始化模板，集成黑客松冠军团队生产级配置。有三层文档架构、9 个专用子智能体、10 条快捷指令、8 条强制规则及智能上下文管理，助开发者高效配置使用。

南洋理工大学、新加坡国立大学与华为开源首个针对数据智能体异构混合数据分析的基准测试FDABench。它有2007个任务，覆盖多领域多数据源，独创协作框架，能测多种工作流模式的数据智能体。

DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。

Ilya现身X发文，自封SSI唯一CEO，Daniel Levy任总裁，此前跳槽Meta的联创Daniel Gross出局。Ilya拒绝Meta 320亿美元收购要约，称专注事业，有算力和团队，要构建安全超级智能。

7月7日，ICML 2026正会首日，雷峰网精选九篇Spotlight论文，涵盖生成模型、智能体系统等多领域。如SDEVI框架解决不规则时间序列生成难题，MASpoB让多智能体提示优化可行等。