「AI安全研究」共找到 10897 篇相关文章
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
一句“吴恩达说的”，就能让GPT-4o mini言听计从
宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。
硅谷刷屏的ClawdBot，让Mac mini卖爆了！创始人爆料：一人开发、100% AI 写代码，全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。
Sam Altman 与开发者的一小时：GPT-5 的坦白、招聘放缓、以及 2026 年最担心的事
2026 年 1 月 27 日，Sam Altman 在 OpenAI 开发者 Town Hall 上回答广泛问题。他承认 GPT - 5 写作搞砸，宣布大幅放缓招聘，称若 2026 年 AI 出大问题，生物安全或成合理押注，还谈及软件工程、GTM 等多方面看法。
新任IEEE Fellow要来参加雷锋网GAIR大会啦！
2026年IEEE新晋Fellow名单公布，348位学者入选，其中华人126位，AI领域42位。付昊桓等学者研究聚焦高性能计算等领域，付昊桓将在12月12日GAIR大会演讲。IEEE Fellow是学会最高荣誉，当选者贡献重大。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
ChatGPT上瘾，大脑萎缩47%！MIT祭出206页92图超长报告
麻省理工学院完成针对ChatGPT用户的首次大脑扫描研究，发现长期依赖大模型，学习能力下降、大脑受损，神经连接减少47%。AI提高效率或为误解，使用它是用长期思维能力换短暂效率。
技术教科书：顶级开发团队设计的Harness工程项目源码什么样
本文深入剖析某顶级AI Agent研究团队的工业级Harness项目源码，涵盖项目全景、启动流程、工具系统等多方面，提炼构建顶级Harness工程方法论，还介绍隐藏彩蛋，展示团队技术实力与独特魅力。
Nature重磅：图灵预言的AGI早已实现，人类却不敢承认！
《自然》杂志新评论文章称，UCSD研究团队系统论证AI已真正“通用”。当前大语言模型如GPT已展现广域人类级智能，已达专家水平，研究团队还驳斥了对AGI的十大异议。