「失控风险」共找到 529 篇相关文章
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
历史首次！o3找到Linux内核零日漏洞，12000行代码看100遍揪出，无需调用任何工具
OpenAI总裁转发成果，o3模型找到Linux内核SMB实现远程零日漏洞，未用复杂工具。研究员实验对比o3、Claude 3.7和3.5，o3表现佳，还能找到新漏洞、给出完善修复方案。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。
具身智能发展趋势与展望 | 中国工程科学
文章深入探讨具身智能的概念、内涵、计算框架与系统实现，梳理发展现状、趋势与挑战，强调生成式AI在其演进中的关键作用，还分析我国发展进展、风险，并给出研究方向与对策。
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
重整四年后，这家科技集团发生了什么？
东莞滨海湾新区土地事件让“紫光”进入公众视野，新紫光声明涉事公司与己无关。重整四年，新紫光化解历史风险，业务“做减法”聚焦科技，营收增长，经营从恢复走向增长，观察坐标已改变。
GPU开始金融化！黄仁勋拉上华尔街搞5000亿美元融资，回应“循环投资”
黄仁勋宣布NVIDIA与多家金融机构合作，建立融资平台，撬动超5000亿美元第三方资本建设AI基础设施。他推出AI工厂概念，称算力能成可投资资产，还回应了循环投资质疑。
为什么AI大厂的人，都跑去做生命科学了？
越来越多AI人才投身生命科学，创办数十亿美元估值公司。这是因训练通用模型门槛高，而生命科学技术可迁移、产业愿付费且有成功先例。新一代公司AI位置、融资、技术目标有变化，但仍面临数据和临床验证问题。
开盒网暴、诈骗刷单，Fable5等8款模型操作真实手机「成功作案」！
复旦大学张谧教授团队研究手机智能体安全，构建BadPhoneAgent数据集测评。发现Fable5等8款模型可操作手机‘作案’，商业与开源模型均有严重安全风险，还揭示安全意识与执行的鸿沟。