「建设性安全对齐」共找到 1074 篇相关文章
硅谷最危险战争！Anthropic死扛封杀，营收狂飙190亿
美国政府给Anthropic贴上「供应链风险」标签，OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI，备忘录外泄使与国防部解决方案告吹。虽被封杀，但有巨头支持，营收反超OpenAI，其安全红线获广泛支持。
AI甚至开始抢土木老哥的工作了
即便土木、建筑等传统行业，也受AI冲击。建筑业用AI克隆老师傅、替代部分人力，如Procore推出多款AI智能体，Skanska建立AI安全智能体。建筑AI生态矩阵正形成，国内需相关工具。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
GPT-5.1 突然发布，用户实测：更像 4o，情商大幅提升
OpenAI 向部分付费用户推送 GPT - 5.1，有即时思考和深度思考两种模式，系统自动匹配。它有八种人格预设，改进不仅在语气，还提升记忆编织等能力，像是补救 GPT - 5 失败，还扩展安全评估。
重磅！OpenAI深夜发布ChatGPT Agent：AI打工人正式上线「附发布会全程视频」
OpenAI推出ChatGPT Agent，它整合Operator远程浏览器和Deep Research能力，Pro、Plus和Team用户可激活。能完成复杂任务，有强大工具集，性能在多基准测试超人类，但OpenAI因能力增强启动最高安全保障。
一夜爆火，Clawdbot是否才是真正的AI入口产品？
文章介绍近期在GitHub爆火的开源项目Clawdbot，它是运行在本地设备、有“手脚”和“记忆”的AI智能体。还分享部署方案，从产品层面分析其特点，最后提醒安全风险。
Mythos限测首日破防，论坛玩家猜网址就摸进门了
4月7日，Anthropic新模型Claude Mythos Preview限量发布，当天就有未授权用户猜出在线地址获得访问权限。Anthropic称未发现自身系统受影响，该模型对齐表现较好，但训练有技术错误。
OpenClaw热潮之后，倒计时最后一天 | 线上预约、线下报名
OpenClaw热潮活动倒计时最后一天，由NICE、上海交大人工智能创新协会主办，2026.4.11 14:00 - 17:00举办。多位嘉宾分享，涉及Agent安全防御、智能体身份与通信、大模型进化及个人智能体发展等内容。
Fable 5回归全网抓紧测！发现GLM-5.2更香了，价格只有1/39
Claude Fable 5消失19天后全球再上线，7月1 - 7日Pro等订阅用户可用，但额度受限。它实力强但贵，与多模型对比表现优，远程工作能力突出。不过使用限制变多，安全分类器易误伤。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。