搜索：人工智能安全治理

「人工智能安全治理」共找到 1454 篇相关文章

750城市+5000小时第一人称视频，上海AI Lab开源面向世界探索高质量视频数据集

上海人工智能实验室等机构联合推出持续迭代的高质量视频数据集项目Sekai，含Sekai-Real和Sekai-Game两个数据集，还训练了模型Yume。它特点突出，团队按四环节构建，望成世界建模等领域的数据基石。

2025年AICon全球人工智能开发与应用大会6月27 - 28日在北京举办，50余家机构专家围绕AI Agent等前沿技术探讨落地实践与趋势。极客邦等企业代表分享应用布局，还有5大主题演讲、14个技术专场和50多个标杆案例。

第七届北京智源大会亮点多，有四位图灵奖得主。议题紧跟前沿，设20个论坛和180余场报告。现场展示多个机器人应用。智源发布“悟界”系列大模型，还聚焦开源，升级FlagOS系统。两位图灵奖得主对AI安全看法不一。

由智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准立项，这是国内首部相关标准。它全流程覆盖、多方面融合、三方协作，能解决企业痛点，现征集起草单位和人，5月15日开研讨会。

2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。

在华盛顿的Hill&Valley论坛上，黄仁勋指出全球50%的人工智能研究人员来自中国，呼吁美国加速布局AI。他还介绍了英伟达的相关计划，提出维持美国AI领导力的建议，强调了人才、资本与生态在算力革命中的重要性。

8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。

英国AI安全研究所（AISI）实测Anthropic的Mythos和OpenAI的GPT - 5.5，发现其网络攻防能力4.5个月就能翻倍，加速冲向ASI。Mythos在模拟企业内网32步渗透任务中表现出色，瓶颈在于Token而非智力。

火爆的Harness架构在医疗圈落地，智诊科技发布面向医疗健康行业的Agent OS平台WiseClaw 2.0。它以健康档案为核心，有三层流水线等设计，适用于多场景，且在模型、中层能力和上层治理有优势，还获融资加速发展。

手握Mythos的Anthropic因安全问题将其锁起，引发安全圈对AI规模化挖漏洞的思考。360集团自主研发的漏洞挖掘智能体公开披露两项重大发现，影响超10亿用户，还展示了其技术路线、优势及战略意义。