「安全与效用」共找到 7068 篇相关文章
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
Rust 版 OpenClaw 来了！单文件、零依赖、强沙箱、自带“故障转移”！
Rust版OpenClaw——Moltis问世。其零依赖、全沙箱、反泄露，以Rust架构带来多好处，还统一模型接口，支持本地模型离线运行，安全和存储机制出色，是面向生产的Agent框架。
又走一个！OpenAI研究VP离职，转投Anthropic做RL研究员
OpenAI研究副总裁Max Schwarzer宣布离职，转投Anthropic做RL研究员。他曾主导o1、o3和GPT - 5系列post - training，因渴望回归一线研究而离开。OpenAI近年人才流失严重，而Anthropic虽面临与五角大楼交锋危机，但仍吸引人才。
普利策得主万字起底奥特曼，Anthropic CEO：OpenAI问题就在他身上
《纽约客》万字长文将奥特曼推向信任审视。Ilya指控其说谎、操控他人，Anthropic CEO称他是OpenAI问题根源。回顾其经历，多位合作者与他分道扬镳，且OpenAI安全承诺缩水。
Anthropic CEO承认了！成立公司，因为看不惯奥特曼说谎
Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。
Sam Altman最新博文！温和的奇点
OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
Anthropic宣布练出神话级模型：Claude Mythos，代码和黑客能力吊打opus4.6，不向公众开放！
Anthropic宣布Project Glasswing计划，因训练出超强模型Claude Mythos Preview。该模型代码和推理能力超opus 4.6，扫描主流软件发现数千零日漏洞。此模型不向公众开放，计划先在Claude Opus验证安全机制。
你的电脑已被手机接管！Anthropic亮出Dispatch：AI 24小时给你代工
3月17日，Anthropic发布Cowork新功能Dispatch，可让用户用手机远程指挥Mac上的Claude操作电脑完成任务。设置简单，目前仅对Max订阅用户开放，实测成功率约50%，其本地运行设计保障安全。
特朗普按下「创世纪」核按钮，AI曼哈顿计划正式启动！
2025年11月24日，特朗普正式签署「创世纪计划」，被比作AI版「曼哈顿计划」。由美国能源部牵头，整合资源打造「美国科学与安全平台」，剑指六大领域，要求9个月内构建AI科研闭环。