搜索：人工智能安全

「人工智能安全」共找到 1358 篇相关文章

真热AI！米哈游5亿成立新公司

米哈游全资成立上海米哈游无定谷科技有限公司，注册资本5亿，经营范围涉及人工智能等领域。米哈游在AI领域布局已久，有自研大模型，创始人蔡浩宇也有相关创业动作，旗下游戏还与马斯克的AI女友互动。

论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。

来自多机构研究团队提出基于符号化表征的生成任务描述框架，将符号化思维引入生成任务建模。实验证明，该框架在跨模态生成任务中表现出色，为推进生成式人工智能能力提供了成本效益高且可扩展的基础。

360人工智能研究团队的冷大炜博士团队开源FineHARD高质量图文对齐数据集，包含1200万张图像、4000万个边界框及对应描述、1000万组细粒度难负样本，能提升模型图文对齐能力，还介绍了构建方法、分析及应用前景。

今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。

2026年是数据要素价值释放年，数据资产交易却面临合规与安全难题。中国电子商会归口、智合标准中心组织编制《企业数据要素流通交易合规指南》团体标准，涵盖多核心模块，有三大亮点，现征集起草单位和专家。

Anthropic联合创始人兼CEO Dario Amodei写万字长文《技术的青春期》，指出AI飞速迭代下人类面临的危险局面，可能带来国家级安全威胁。文中阐述AI五大系统性风险，并给出应对方案，强调人类制度和成熟度要跟上AI发展。

在第八届GAIR全球人工智能与机器人大会“数据&一脑多形”分论坛的圆桌论坛上，高飞、金鑫、王靖博三位学者围绕具身智能、空间智能、世界模型等话题展开讨论，探讨研究进展、挑战与机遇，还谈及创业和数据获取等问题。

全球人工智能开发与应用大会暨石景山数智化转型峰会（AICon 北京站）将于 2025 年 12 月 19 - 20 日在北京石景山举行。大会围绕企业数智化转型与 AI 实战落地，设项目启动会、全国性论坛和行业峰会，助企业明确转型路径。

2025年12月12 - 13日，第八届GAIR全球人工智能与机器人大会将在深圳举办。西湖大学助理教授修宇亮12月13日将在《世界模型》论坛演讲，带来数字人研究最新成果，其曾破局三维数字人姿态重建难题，还想做“会格斗的数字人”。