「AI安全研究」共找到 10869 篇相关文章
读博最后一年转方向，拿到OpenAI offer：我的面试之路充满「意外」
布朗大学博士生Yong Zheng - Xin自宣下月加入OpenAI做AI安全研究。他博士最后一年转方向，分享求职经历，总结6个意外洞察，如求职重要的可能仅一两篇论文、面试形式多样等。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
A16z： AI 产品的护城河在哪里？
a16z新博文结合与创始人沟通，总结AI公司突围成长关键点。指出演示易、产品难，AI初创增长快，开发成本降，速度很重要，还介绍了AI公司建立护城河的方式，认为当下是创业者好时机。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
马斯克彻底向ASI投降！10年后万亿财富都将「归0」
2026年7月23日，马斯克接受《经济学人》总编专访，给出AI发展时间线，称5年内AI智力超人类总和，10年内金钱无意义。他曾是AI末日论者，如今态度转变，还提出AI安全治理方案。
AI 万能插座(网关)
AxonHub 是 All - in - one AI 开发平台，有统一 API 网关等功能。具备统一 API、追踪等核心特性，支持多种 API 类型和格式，介绍了不同部署与使用方法。
计算机安全第一人宋晓冬，加入Meta
本周四，UC Berkeley 计算机教授宋晓冬宣布加入 Meta 超级智能实验室，任 AI 研究副总裁。她是计算机安全领域顶尖学者，其团队也一同加入。此外，AI 推理大牛 Denny Zhou 数月前也已加入 Meta。
这个春节，AI 不聊天了，开始替我买单
马年春节，腾讯、百度、字节跳动等大厂打响「AI 春节大战」。阿里旗下千问 APP 投入 30 亿启动「春节请客计划」，活动首日成绩显赫，还展示了跨应用调度等能力，探索出独特的「超级 Agent」路线。
RunAnywhere：简单几步让AI应用跑在手机上
介绍能在手机本地运行的大模型项目RunAnywhere，它让开发者在iPhone 16 Pro Max部署Llama 3.2 3B模型。AI处理本地化，用React Native和RunAnywhere SDK，支持多模型，有多种功能，优势明显。
梅涛的视频AI创业，最新产品来了
本文来自量子位，对梅涛旗下智象未来发布的AI视频创作智能体Vivago R1进行深度实测，介绍产品定位、技术架构，分析AI视频赛道分化路线，分享实测体验，探讨AI创作工具发展方向。