「安全强化」共找到 1540 篇相关文章
1.8K Star！又挖到一款超酷的 Claude Cowork 开源平替，而且比 Cowork 更快更省！
Anthropic 发布 Claude 的 Cowork 能力后成热门，但高额费用和封闭策略让普通人却步。现推荐开源替代方案 OpenWork，它免费开源，速度快、省 Token，还引入安全隔离机制，功能丰富。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
突发 | Meta 挖走的OpenAI 核心研究员Jason Wei，离职前留下这样的一段话
OpenAI研究员Jason Wei和Hyung Won Chung跳槽至Meta，Wei在离职前发推文分享强化学习感悟及验证不对称性概念，引发网友猜测与共鸣，这场AI人才争夺战正愈演愈烈。
GPT-6发布，OpenAI说AGI时代来了
北京时间9月4日凌晨，OpenAI发布GPT - 6 Astra，虽发布过程狼狈，但该模型在多项评测中表现出色，如数学评测、电脑操控等，但编程类任务未全面领先，且网络安全方面部分功能被限制。
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
矩阵乘法新突破！XX^T原来可以更快！RL助力搜索，世界纪录又被提升了5%
深圳市大数据研究院、香港中文大学（深圳）研究团队，结合强化学习与组合优化技术，发掘新算法 RXTX，让 XX^T 运算减少 5% 运算量，成果在国际引发关注，不过产业化落地仍面临挑战。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。