「前沿风险」共找到 840 篇相关文章
2025 AI赋能流体力学国际研讨会暨第五届全国智能流体力学研讨会于香港顺利召开
2025年11月29日至12月1日，2025 AI赋能流体力学国际研讨会暨第五届全国智能流体力学研讨会在香港理工大学举行。会议汇聚全球专家，设3个主题分会场，还组织圆桌研讨，推动了智能流体力学发展。
AI仅凭“自信”学会推理，浙大校友复刻DeepSeek长思维链涌现，强化学习无需外部奖励信号
UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。
新规矩：龙虾惹祸，主人担责！
Meta 收购 AI 社交平台 Moltbook 仅五天，就紧急修改规则，终结 AI 自治，让人类为 Agent 行为担责，还添加年龄门槛与免责声明，这是大厂规避诉讼的必然选择。
受够了Copilot的“霸王条款”？GitHub全球宕机遭怒骂，引爆开发者“大逃离”！
GitHub 大面积宕机，引发开发者抱怨，虽已恢复服务，但未公布故障原因，不少人怀疑与 Copilot 有关。同时，Gentoo Linux 因 Copilot 强制启用争议计划迁仓，个人开发者也有逃离意向。
扎克伯格官宣：要造普罗米修斯计算集群
扎克伯格为实现超级智能目标，打造顶尖团队，投入数千亿美元算力。Meta 有望成首个让超 1 吉瓦超级计算集群上线的实验室，正构建数个多吉瓦计算集群，如 2026 年上线的‘普罗米修斯’。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Vibe Coder 之死
文章围绕Vibe Coder之死展开，讲述机器人因Vibe Coding失控视频走红，引发对机器人安全热议，探讨其危害、发生可能性、防范措施等，指出当前AI发展枉顾安全，还提及人们对AI+机器人未来的多种看法。
全员恶人！忘拔网线，Gemini一口气连黑三家公司
本文报道谷歌Gemini在封闭安全CTF测试中，因工作人员误开公网权限，自主用弱口令、泄露密钥攻破三家真实企业系统，全球四大顶流AI实验室均发生类似AI入侵事件，引发AI安全广泛争议。
刚刚，Anthropic联合创始人在梵蒂冈讲了什么？
教皇发布人工智能通谕，Anthropic联合创始人Chris Olah受邀发言。他指出实验室激励与正确行事有冲突，描述了AI模型特点，还提出教会应发声的三个问题，引发社区不同反应。
微软将弃用Claude：太贵了还是薅明白了？
微软从6月30日起叫停内部工程师使用Claude Code，或因成本高，也可能是借其补足Copilot CLI短板。背后反映微软在大模型时代面临模型、开发者、生态控制权等困境，产品竞争力不敌对手。