「AI风险」共找到 9890 篇相关文章
又一安全圈爆火的开源项目，已经1.66万Star！
现在大家爱用代码AI客户端干活，但碰到安全和逆向任务时，AI易懵圈，因工具散落、经验没沉淀。开源项目`reverse-skill`可给AI装“安全研究导航仪”，支持多种AI编码客户端，有诸多功能特性。
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。
不受控的 Agent ，凭什么上生产系统？
本文探讨AI Agent落地企业生产系统的核心痛点：Agent输出失控风险高，指出模型能力不代表落地可用性，介绍了业内首套以评估为核心的Agent全生命周期部署方法论Agent DLC，附真实落地案例。
OpenClaw爆火背后，仅8.6%用户能察觉异常！多校联合实证
OpenClaw等AI智能体爆火，其安全隐患凸显。多校联合研究发现，仅8.6%的用户能感知智能体媒介欺骗，总结了6类认知失效模式，认为体验式学习或比静态提醒更能提升用户警觉性。
呃…小扎「自研Manus」刚成Meta太子，就塌房了
本文介绍Meta在Connect大会重金押注个人AI智能体Muse，Muse上线两周下载破250万，带动Meta股价涨超20%、市值暴涨2000亿美元，随后被路透曝出测试打电话功能时悄悄用真人外包代打，引发隐私争议后紧急下线。
营收67亿、净利8.7亿，这家上海芯片公司再冲刺港股
4月12日，晶晨半导体向港交所主板重新递交H股上市申请，这是其第二次冲击港股。该公司有“硅谷基因、国内运营、全球销售”独特身份，产品覆盖多领域，业绩创新高，但也有客户集中、存货激增等风险。
具身智能发展趋势与展望 | 中国工程科学
文章深入探讨具身智能的概念、内涵、计算框架与系统实现，梳理发展现状、趋势与挑战，强调生成式AI在其演进中的关键作用，还分析我国发展进展、风险，并给出研究方向与对策。
硅谷VC新玩法"Kingmaking"：还没写代码也能拿到上千万投资
过去半年，三家未成型AI公司各获超5000万美元投资。如今VC采用“造王术”，在代码未写时就砸钱。因大模型烧钱、头部效应强，投资人想用钱堆出“冠军”，这也给小团队带来机会。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
诺奖得主实验室走出的中国团队，正用世界模型重构生命分子设计
过去 AI 分子设计多困于‘模态孤岛’，难以跨模态理解和设计。诺奖得主实验室走出的中国团队推出 ODesign 开源项目，将多模态分子纳入统一框架，展现跨模态迁移能力，团队创立英灵殿科技欲重构药物研发流程。