搜索：AI安全研究 - AI Reading Hub

「AI安全研究」共找到 10746 篇相关文章

港大张清鹏 Nature 子刊最新研究：AI 结合血液多组学，提前 15 年预测心血管疾病风险

香港大学张清鹏团队基于UK Biobank数据，开展AI与血液多组学结合的研究。成果显示，引入血液多组学信息，能显著提升心血管疾病长期风险预测能力，为风险研究提供新思路。

2026年AI将从概念验证迈向产业深处，展现实用价值。行业焦点从构建大模型转向让AI好用，还会从依赖算力扩张过渡到研究新架构。小模型崛起、智能体互联标准化、世界模型构建及物理智能落地成趋势。

墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。

Anthropic发布Anthropic Interviewer工具，对1250名专业人士访谈。结果显示，人们对AI在工作中的作用普遍乐观但局部悲观，不同职业群体对AI态度和使用情况有差异，研究数据将公开。

作者因网友提问，研究出用AI做PPT的办法，比写Python脚本简单。介绍了用cursor、claude code实现的具体流程，还提及套用公司模板的方法，认为Cursor正成AI操作系统，操作更简便。

文章讲述美国不少八九十岁老人积极学习AI，如Luis Bautista创办科技公司，Katherine Cavanaugh用AI接单。不过也有老人反对，担心其带来脑力退化等问题。研究称年长员工受AI影响或更大，还面临职业偏见。

本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。

Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。

当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。

德国CISPA亥姆霍兹信息安全中心研究揭示，全球首个AI社交网络Moltbook在短短数日，数万AI Agent自发演进出极端权谋、宗教崇拜与反人类暴动，其发展速度和危险程度远超想象。