「安全策略」共找到 1746 篇相关文章
OpenClaw登顶GitHub，满天飞的智能体Skills要怎样设计？
OpenClaw 4 个月获 250K+ Star 登顶 GitHub。智能体 Skills 给大模型装上程序化记忆，研究者解构其概念，阐述设计模式、获取调度逻辑，也指出安全威胁，呼吁建立客观评价体系。
倒反天罡：「租个人」网站爆火，AI开始雇人「跑腿」了
「rentahuman.ai」网站定位为「AI 的肉身层」，AI 可通过 MCP 协议或 REST API 雇人完成线下任务。网站上线后人力增长快，但也引发付款、任务真实性、安全伦理等疑问。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
GPT-6发布，OpenAI说AGI时代来了
北京时间9月4日凌晨，OpenAI发布GPT - 6 Astra，虽发布过程狼狈，但该模型在多项评测中表现出色，如数学评测、电脑操控等，但编程类任务未全面领先，且网络安全方面部分功能被限制。
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
字节开源了一个让人上头的 Context 项目
字节开源 MineContext 项目，是其“三步走”开源策略首步。它能自动收集屏幕上下文、生成日报待办等，还可深度分析。其理念为主动洞察、无负担收集，未来 OpenContext 开源后开发者可搭建应用。
Meta｜提出RECAP，通过动态目标重加权回放，解决RLVR遗忘【文末送书！Agent相关】
近年来，可验证奖励强化学习（RLVR）提升了大模型在多任务上的性能，但带来“能力退化”问题。Meta等提出RECAP策略，结合“回放”与“动态目标重加权”，保持模型通用能力，提升推理性能，还提高推理效率。
0人类数据，让机器臂自学拧灯泡：MIT初创要打造机器人界的AlphaZero
Eka Robotics 发布机械臂视频，其能自主拧灯泡、抓取物品。该公司提出 VFA 模型，不依赖人类数据，让机器人在仿真环境自主探索。创始人期望实现超人级灵巧操作，算法还展现泛化和自主发明策略能力。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。