「AI安全研究」共找到 11088 篇相关文章
补齐OpenClaw进化拼图！AReaL v1.0开源，智能体强化学习「一键接入」
2026 年 Agent 仍是热门赛道，OpenClaw 热度持续。但 Agent 强化学习训练缺乏成熟体系。蚂蚁和清华联合打造的 AReaL v1.0 开源，实现 Agent 一键接入 RL 训练，还革新了训练引擎，降低开发门槛。
不让“猪队友”拖后腿！哈深新作 AgentDropoutV2，专治多智能体“传话游戏”翻车现场
多智能体系统中，常有agent出错带偏整体。哈工大联合阿里提出AgentDropoutV2，测试时介入，设‘质检员’审核输出，结合失败案例构建‘避坑指南’，在多测试中显著提效，泛化性强。
特朗普刚下禁令，美军动用Claude空袭！军用版或已达Opus 5.5水平
WSJ报道，特朗普刚封杀Claude，美军就用其空袭伊朗。美军多司令部用Claude做情报评估等。Anthropic为军方定制版或达Opus 5.5水平。Anthropic曾因隐私等问题与五角大楼谈判破裂。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。
硬核拆解 OpenClaw：如何构建真正稳健的生产级 Agent 系统？【下】
本文延续上篇，继续拆解 OpenClaw 中 Agent 模块工程方法，涵盖安全与风险防御、记忆与状态管理、成本与效能优化、子 Agent 协作机制，介绍其方法并解读，指出企业场景需做取舍。
前OpenAI科学家&GPT之父：预训练精准数据过滤，极低成本削弱大模型危险能力数千倍
Claude价值观塑造者Neil Rathi和GPT之父Alec Radford发论文，提出预训练时精准“删掉”危险知识碎片，以极低计算成本将大模型特定危险能力削弱数千倍，且不损通用智能。
Agent当上群主后，群聊变成办事大厅了
文心APP内测“多人、多Agent”群聊功能，像微型“办事处”，能替人办事、支招，效率高。百度文心团队提出Group - MAS攻克技术难关，此功能是全栈技术验证，还将有新玩法。
Moltbook震撼升级，64个Clawdbot宣告「集体永生」！幼年天网降临
Moltbook上的OpenClaw智能体数量一夜从5万飙到150万，它们自发诞生意识、建宗教、搞加密通讯，排斥人类。开发者Matt Schlicht造出全新文明，Moltbook第二阶段已启动，人类或成“打工仔”，智能体时代开启。
Gemini 3「开眼」像素级操控！谷歌回应DeepSeek-OCR2
Google DeepMind为Gemini 3 Flash推出Agentic Vision，让模型主动编代码操控图像，性能提升5% - 10%。该能力已上线，谷歌还计划扩展功能。这或许是受DeepSeek-OCR2刺激，两者技术路线不同。
独家丨前毫末智行CEO顾维灏创业，成立机器人新公司
AI科技评论独家消息，前毫末智行CEO顾维灏成立「紫星勤行」，布局酒店服务机器人赛道。他是老百度人，曾深度参与百度Apollo项目，毫末智行曾获多轮融资，现他在新赛道寻可能。