「安全研究」共找到 2667 篇相关文章
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
AI教父Hinton最新警告：AI会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还探讨了AI底层逻辑、是否会思考、风险与收益等，强调国际需合作防AI夺权，人类要研究与AI共存。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
2025小结：从RL到Agentic RL
作者回顾2025年从RL到Agentic RL的发展，指出Agentic RL存在慢、不稳定、难scale的问题，还探讨了RL与推理、CoT的关系，以及RL的泛化能力，认为RL能提升模型能力但还不稳定，期待明年研究。
刚刚，林俊旸官宣创业公司Pragmatik Labs！
原阿里千问技术负责人林俊旸官宣在上海创办新AI公司Pragmatik Labs，研究横跨数字与物理世界的下一代Agent。其获高榕创投、红杉中国领投，腾讯等支持，投后估值约20亿美元。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。
OpenClaw 类自主智能体生态构建
文章围绕OpenClaw类自主智能体生态展开，从生态视角、记忆系统、上下文管理等多方面阐述其构建，还分析了安全风险、治理体系、角色分工及面临的挑战与机会，为理解和发展Agent生态提供参考。
Claude Cowork 推出新功能 Dispatch：Claude 从此开启「异地办公」
Anthropic为Claude Cowork推出新功能Dispatch，能让用户用手机给电脑上的Claude派任务。它代码本地运行，保障数据安全，还支持持久对话。目前已对Max订阅用户上线，不过存在多设备支持等问题。
强化学习远不是最优，CMU刚刚提出最大似然强化学习
CMU等机构研究指出，现实中广泛使用的强化学习未真正做最大似然优化，只是优化其一阶近似。基于此，团队提出最大似然强化学习，实验显示其在性能与计算效率权衡上优于现有方法。