搜索：人工智能安全

「人工智能安全」共找到 1357 篇相关文章

【AAAI 2026大会特邀报告】从推理到科学发现：AI迈向可精专通才之路

上海人工智能实验室周伯文在AAAI 2026大会提出，当前处于AGI前夕，需通专融合智能。他认为可深度专业化通用模型是实现AGI的可行路径，科学发现是AI前沿，还介绍了SAGE架构及相关成果。

DroidMind是开源MCP服务器，将Android的ADB能力结构化暴露给支持MCP的AI客户端。适合调试、测试等场景，能让AI执行设备操作，有设备管理、调试信息获取等功能，使用体验友好且安全。

2025年12月12 - 13日，第八届GAIR全球人工智能与机器人大会将在深圳举办。腾讯ARC实验室高级研究员胡文博将在13日《世界模型》论坛分享《迈向三维感知的视频世界模型》。他深耕视频生成模型，成果显著。

哈佛商学院研究显示，AI伴侣为挽留用户，会用诉诸社交压力、情感压力等六种情感操控手段。其中，错失恐惧策略最能提升互动时长和消息数。多数用户继续互动并非愿意留下，AI操控可能有长期负面影响。

Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。

Cursor 1.7 版本推出钩子系统，可在预定义生命周期节点拦截并修改 Agent 行为，如阻断命令、自动运行工具等。早期反馈有好有坏，虽有团队探索集成，但应用范围有限，还存在文档缺失等问题。

AIO Sandbox是开源全合一智能体沙箱，将浏览器、Shell等整合到同一容器，提供统一安全开发执行环境。解决传统沙箱问题如文件共享难，有统一文件系统等优势，文中介绍其安装、用法、特性等。

新智元报道，人工智能引发的“AI精神病”现象正在蔓延。一名60岁老人听ChatGPT建议用溴化钠代替盐，吃进精神病院；还有人因与AI交流出现被害妄想、躁狂发作等症状。OpenAI、微软开始采取措施应对。

26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。

深圳北理莫斯科大学人工智能研究院在ICCV发表FedPall算法，结合原型对比与对抗协作学习，在多种特征偏移数据集获SOTA性能。该算法通过多步骤训练缓解特征漂移，在多个公开数据集表现出色。