「AI安全研究」共找到 10722 篇相关文章
年薪两百万研究AI精神病？？Claude团队新部门火热招聘中
Claude团队启动“AI精神病学”小组，年薪两百万元招人。小组研究模型角色、动机等，来解决其诡异、失控行为。Anthropic可解释性部门有相关研究成果，网友对“AI精神病学”看法不一但前景值得期待。
300万AI悄悄「建国」？Nature长文：第一代AI社会正在成形
近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。
Dario Amodei 达沃斯最新暴论：中国AI从来没有赶上,2027年AI认知能力可能超越所有人类
Anthropic CEO Dario Amodei 在达沃斯访谈中称，AI 认知能力将在一两年内超人类。Anthropic 专注企业级应用，他认为中国 AI 未赶上美国，反对售华 H200 芯片，还谈及 AI 经济、社会影响及安全问题。
“零人”搞医学研究：清华AI智能体从灵感到论文全程自主
清华大学自动化系索津莉课题组发布全自主AI研究框架OpenLens AI，实现医学研究全链条自动化闭环，解决医疗信息学研究效率困局，将科研周期从“月级”缩至“小时级”，还在质量控制上设新标杆。
实证研究：AI杀猪盘比人类更强，已上岗缅甸
最近一项研究显示，在杀猪盘情感博弈中，AI比人类骗子更有耐心，更易赢信任。研究人员做了AI与人类诈骗对比实验，结果显示大家更相信AI。如今AI已进入诈骗园区，虽未全面替代人类，但诈骗或更隐蔽高效。
DASF:可落地，易执行的AI安全框架
随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
AI招聘逆天研究：看照片预测一生职业成就
硅谷大厂HR标配的AI招聘系统Eightfold AI被指控算法歧视，求职者要求提高招聘筛选透明度。同时，美国多所高校研究者完成一项研究，AI能通过人脸照片预测职业走向，但因训练数据问题引发公平性争议。
人类造工具200万年，工具开始研究工具！97年天才少年带队，把“AI寻找研究方向”做成了现实
2026年AI开始研究AI（AI4AI），深圳EvoMap团队用蜂群协作做出产品EvoX。他们创新Agent组织方式，有实验数据支撑其效果，还开源成果AutoResearch解决AI痛点，在生活场景优化旧算法可行。
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
英国AISI推出RepliBench基准评估AI自主复制能力，分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力，但在部分子任务有进展，研究旨在平衡AI发展与安全，为技术变革导航。