「AI安全研究」共找到 10765 篇相关文章
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
TRAE 如何思考 AI Coding ：未来的 AI IDE，是构建真正的「AI 工程师」
越来越多玩家涌入AI Coding赛道，TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式，推出Solo模式，还分享相关思考、功能及场景，TRAE月活已超百万。
AI教父辛顿上海WAIC主题演讲：LLM真的理解语言，数字智能极其危险，可以无限复制
AI教父杰弗里·辛顿在WAIC开幕式演讲，对AI发展警惕且悲观。他认为LLM真理解语言，数字智能与生物智能差异大，AI进化快很危险，人类应全球合作研究让AI向善。
安全的下一个好赛道，非常值得研究
近几年机器人发展火爆，摩根士丹利预测到2050年产业规模或超5万亿美元。但机器人领域安全复杂，研究团队用CAI框架对三款消费级机器人渗透测试，揭示严重安全问题，且行业整体对安全无知。
新教皇取名竟和AI有关？美国首任AI沙皇：AI四年内增长100万倍！
教宗良十四世取名是为应对AI带来的挑战，他认为这关乎人类尊严、正义与劳动。此前教皇也关注AI威胁并呼吁规范。同时，美国首任‘AI和加密货币沙皇’David Sacks预测AI四年内将增长100万倍。
对话 OPPO AI 姜昱辰：手机才是 Memory 最好的土壤，AI 一定会彻底改变智能手机
文章是对OPPO AI姜昱辰的访谈。他认为AI会改变智能手机，OPPO将小布记忆做成跨系统收藏夹。产品迭代后记得更广、更深、更有用，团队还探索记忆分层、更新等，也重视用户隐私和主动推荐能力提升。
靠“AI 云”爆红的 Vercel，栽在一个第三方AI工具手里！IPO前夕遭黑，200万美元赎金谈崩？
近日，云平台 Vercel 遭入侵，攻击者通过被入侵的第三方 AI 工具 Context.ai 实施攻击。Vercel 确认‘安全事件’，称少量客户受影响，谷歌 Mandiant 团队协助调查。此事发生在其 IPO 前夕，或引发连锁安全暴露。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
意图是 AI 时代的新入口｜AGIX PM Notes
文章围绕AI时代展开，指出互联网时代商业模式核心是“入口”，AI时代应关注“意图”。还提及上周对冲基金资金流动、AI企业动态，如微软推安全方案、Alphabet合资开发机器人等。
OpenClaw们狂奔，谁来焊死安全车门？
2026年开年，AI进化成“行动式智能体”，带来便利的同时，也引发恐慌，传统安全思维失效。江苏通付盾提出前瞻性智能体安全框架，已在“大群空间”多智能体协同平台落地。