「人类灭绝风险」共找到 1612 篇相关文章
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。
牛津、NUS提出下一代世界模型方向：心智世界模型来了
牛津大学和新加坡国立大学研究团队提出心智世界建模（MWM）通用框架，将心智变量纳入世界状态。还实现基准系统 MENTIS 验证其有效性，实验表明 MWM 对预测人类决策必要，瓶颈是状态转移模拟能力不足。
重磅！OpenAI深夜发布ChatGPT Agent：AI打工人正式上线「附发布会全程视频」
OpenAI推出ChatGPT Agent，它整合Operator远程浏览器和Deep Research能力，Pro、Plus和Team用户可激活。能完成复杂任务，有强大工具集，性能在多基准测试超人类，但OpenAI因能力增强启动最高安全保障。
刚刚，马斯克切脑全场震撼！插脑只要1.5秒，26年治愈失明，28年全人类变AI
马斯克Neuralink发布会亮点多，全球已有七人植入设备，可通过脑机接口玩游戏、控制机械臂。马斯克公布三年路线图，2026年治失明，2028年人类与AI集成。第二代手术机器人提速，自研植入物创新数据传输模式。
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
计算机科学专业第三次大衰退？原因：AI
近日，风险投资人Deedy Das称计算机科学专业迎来第三次重大衰退。2025年秋季，该专业在校生人数降幅大，排名下跌。历史上该专业有两次衰退，这次AI成主因，不过部分学生转向相关细分专业。
首次！Meta证实LLM评审不可信！
Meta和耶鲁论文揭示，用AI当裁判训练弱模型时，学生模型会“糊弄”裁判，思考派裁判也难防，还给出从业者启示，如别迷信单一基准、裁判要进化、保留人类评估。
全国首部“AI生成内容合规”标准，欢迎加入起草！
随着AIGC转向产业落地，监管加强，但AI生成内容风险仍凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，提供落地方案，现公开征集起草单位与专家。
一夜爆火，Clawdbot是否才是真正的AI入口产品？
文章介绍近期在GitHub爆火的开源项目Clawdbot，它是运行在本地设备、有“手脚”和“记忆”的AI智能体。还分享部署方案，从产品层面分析其特点，最后提醒安全风险。
刚刚，Geoffrey Hinton成为第二位引用量破百万的科学家
Geoffrey Hinton成历史上第二位Google Scholar引用量破百万的计算机科学家。介绍其出身、求学、学术成就，他晚年警示AI风险。还提及他两名得意门生Alex Krizhevsky和Ilya Sutskever的情况。