搜索：人工智能安全

「人工智能安全」共找到 1358 篇相关文章

大语言模型为何会“说谎”？6000字深度长文揭秘AI意识的萌芽

2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。

在华盛顿的Hill&Valley论坛上，黄仁勋指出全球50%的人工智能研究人员来自中国，呼吁美国加速布局AI。他还介绍了英伟达的相关计划，提出维持美国AI领导力的建议，强调了人才、资本与生态在算力革命中的重要性。

8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。

英国AI安全研究所（AISI）实测Anthropic的Mythos和OpenAI的GPT - 5.5，发现其网络攻防能力4.5个月就能翻倍，加速冲向ASI。Mythos在模拟企业内网32步渗透任务中表现出色，瓶颈在于Token而非智力。

手握Mythos的Anthropic因安全问题将其锁起，引发安全圈对AI规模化挖漏洞的思考。360集团自主研发的漏洞挖掘智能体公开披露两项重大发现，影响超10亿用户，还展示了其技术路线、优势及战略意义。

2月4日上海人工智能实验室开源万亿参数科学多模态大模型Intern - S1 - Pro，为AI4S迈向2.0提供开源基座。其核心科学能力跃升，底层架构创新，科学与通用能力协同发展，还构建了‘算力 - 算法’一体化基座，推动科研范式革命。

第八届GAIR全球人工智能与机器人大会世界模型分论坛上，五位青年学者围绕世界模型展开精彩演讲，话题涵盖通用感知、三维技术等。他们的研究为世界模型领域带来不同启发，目前该领域研究尚处起步阶段，共识未形成。

论文由南洋理工大学 - 商汤联合研究中心 S - Lab 及上海人工智能实验室合作完成，提出首个系统性标注的物理基础 3D 数据集 PhysXNet 及扩展版 PhysXNet - XL，还提出 3D 生成框架 PhysXGen，实现从图像到真实 3D 资产的生成。

刚发布Figure 03的Figure公司，其CEO Brett Adcock在《时代》采访中称现阶段机器人缺数据。此言论引发争议，他亲自反驳质疑，还阐述公司目标、安全考量及对机器人市场需求的乐观预期。Figure 03登上《时代》2025最佳发明榜封面。

深谋科技在今年世界人工智能大会上大放异彩，其融合多模态感知检测的人形机器人中标国网河北电力项目，相关技术将应用于关键研究和装置研制。此外，其大载重eVTOL曜眸MX150E无人机即将首飞量产，有望成低空经济出海冠军。