「GPT安全」共找到 2888 篇相关文章
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。
巨头垄断AGI，比天网更恐怖百倍!《终结者》导演卡梅隆炸裂警告
《终结者》导演詹姆斯·卡梅隆在「SCSP AI+Robotics Summit」上称，看好AI但对AGI保留态度。他警告科技巨头垄断AGI比《终结者》中「天网」更可怕，还探讨了AI与国家安全、「对齐」难题等问题。
Claude Mythos Preview来了！强大又危险，Anthropic还专门组了个研究团
今日凌晨，Anthropic发布Claude Mythos Preview新模型及AI网络安全项目Project Glasswing。该模型虽性能卓越，但有安全风险，Anthropic暂不全面开放。Project Glasswing汇聚众多巨头，获巨额资金支持，旨在构建AI防御联盟。
英伟达叫板DeepSeek？怒投260亿美元，要打造最强开源模型
英伟达已成为人工智能时代基础设施的一部分，2023年11月推出首个Nemotron模型进入通用大模型领域。未来五年将投260亿美元构建开源模型，还发布了性能最强的开源模型Nemotron 3 Super。
OpenAI Sora 2 登场！同步推出APP，Altman称这是创意领域的「ChatGPT 时刻」
OpenAI官宣新一代AI视频模型Sora 2，在物理准确性、逼真度等方面刷新SOTA，实现「音画同步」。Altman称其为创意领域的「ChatGPT时刻」。还推出Sora App，有新玩法，且在安全治理上布下「安全网」。
Kubernetes v1.36 发布：安全默认配置强化，AI 工作负载支持日趋成熟
Kubernetes发布1.36版本，代号Haru，含70项增强功能。聚焦安全加固、AI和机器学习工作负载及API可扩展性。如用户命名空间等安全功能达GA，AI方面适配工作负载需求，还引入新功能，同时移除部分旧功能。
Agent可以自己进化了？！
论文《Automated Design of Agentic Systems》提出让Agent扮演设计师，“元代理”能自动生成新代理设计方案。用编程语言作设计空间，实现“设计自由”。实战中，AI设计的Agent全领域超越人类，还具备知识迁移能力，未来或有自主进化的AI生态。
ChatGPT开测广告！OpenAI终于向“钱”看
OpenAI宣布在美国免费版及Go版测试ChatGPT广告功能，称是为支撑免费用户使用。广告不影响回答内容，会注明“赞助内容”。此外，新发布的GPT - 5.3 - Codex广受好评，还将推新聊天模型，其融资计划也在升温。
60天融资数千万，何泳澔出任CTO！这家黑马冲刺「最后一公里」
本文报道具身智能赛道初创虚时科技，60天内累计完成数千万元融资，前地瓜机器人具身智能算法负责人何泳澔出任CTO。公司押注仿真训练解决机器人落地数据瓶颈，推出全链路闭环仿真训练系统，已获得工业场景订单。
Agent开始“自我进化”：会出题、会反思，还会自己长出新技能
文章围绕自进化Agent展开，介绍其概念、受重视原因及三大技术路线，涵盖各路线代表工作的特点、评估及对比，指出研究空白如总结者训练等，最后还介绍了基于Agentic AI的全链路数据助手Dola。