「风险提醒」共找到 625 篇相关文章
先别急着给OpenAI加冕！陶哲轩：这种「金牌」，含金量取决于「赛制」
OpenAI 官宣推理模型在 IMO 获金牌水平成绩，此前各模型表现不佳。数学家陶哲轩劝谨慎看待，认为无严格测试条件难比较 AI 与人类。网友看法不一，模型训练方法及 Alexander Wei 受关注。
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队警告，使用Cursor搭配MCP可能致SQL数据库泄露，攻击者靠一条信息就能实现。MCP被广泛接入，其配置问题成AI应用核心安全挑战。如Supabase MCP，攻击者用留言让Cursor代理复制私密表数据。
Claude Code + Kimi K2全栈开发教程，1小时上线「"丑咪"挑战赛」！
作者分享用Cursor + Claude code + Kimi K2开发「丑咪挑战赛」全栈项目的体验，介绍组合优势、接入教程、前端测试案例和使用技巧，认为Kimi K2在agent和coding能力上表现不错，适合作为Coding模型。
思维外包化！AI正在“废掉”我们的大脑
当下“AI是否会抢走工作”讨论火热，亚马逊CEO称重复性岗位将被取代。但更危险的是，对AI过度依赖或“废掉”大脑，催生“思想懒汉”，在教育领域体现尤令人担忧。
港科广等发布首个医学世界模型！精准模拟肿瘤演化，规划治疗方案
医学世界模型（MeWM）是创新AI系统，能模拟疾病演变、预测肿瘤变化，助医生术前评估治疗效果、优化方案。港科广等团队提出该模型，有肿瘤演变模拟等三核心贡献，在多方面实验表现佳。
模型遗忘不代表记忆抹除！首次系统发现「可逆性遗忘」背后规律
研究人员发现大语言模型遗忘并非简单信息删除，可能藏于内部。他们构建表示空间诊断工具，区分可逆与不可逆遗忘，揭示真正遗忘是结构抹除。还在多种方法、数据集和模型上实证，得出系列结论。
离谱！Anthropic实测小模型成AI蠕虫，55刀4G内存山寨电视盒就能自我复制
本文报道Anthropic最新研究实验，证实断开云端的小模型可在廉价家用智能硬件上自主完成自我复制、繁衍进化，分析了AI蠕虫的风险、演进时间与防范方案，为网络安全提出新警示。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
还是你们会玩，2.9k Star OpenBiliClaw
OpenBiliClaw把浏览器扩展等拼成内容发现Agent，将内容推荐主导权交回用户。它汇总显式授权来源信号找内容，形成本地画像。介绍其架构层级、核心闭环，也提醒“本地优先”仍需做隐私检查。
陶哲轩ICM 2026：数学界迎来「百年新危机」，AI狂飙逼迫全行业重写游戏规则
7月24日，陶哲轩在ICM 2026演讲指出数学界正经历新危机，关乎价值观与工作方式。他围绕AI能力猜想探讨数学界如何应对，列举目标和风险，提出需升级目标，还介绍莱顿宣言建议。