「人类灭绝风险」共找到 1612 篇相关文章
陶哲轩敲警钟！谷歌DeepMind联手五大神殿，用AI向世纪难题宣战
谷歌DeepMind发起「AI赋能数学计划」，集结五大顶尖机构，用最强数学AI探索数学难题。陶哲轩警示要警惕AI滥用风险，还提出论文使用AI的三大建议，如声明使用、讨论风险及明确责任。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
Auto Research时代，AI Scientist的第一场药企实习考验｜甲子光年
AI Scientist从大模型做题家进化为自动化科研助手，但从demo到应用面临买单难题。Phylo等团队构建BiomniBench评估框架，让AI做药企真实数据分析，结果显示AI表现超人类实习生，且有速度和成本优势，但也存在偏科问题。
霍尔木兹海峡封锁18天后，芯片产业还能撑多久？
霍尔木兹海峡封锁18天，全球半导体产业担忧能源储备还能撑多久。芯片产业存在‘能源软肋’，关键材料供应有‘垄断性风险’，全球供应链有关联性风险，凸显了产业在效率与安全间寻求平衡的必要。
英伟达All in的物理AI路线，居然是中国黑马提前一年就定义好了
全球具身智能行业为技术路线争论时，中国深度机智率先提出并跑通「人类学习」路线，以人类数据为起点、动作建模为中心、机器人为AI而生，英伟达等跟进，深度机智全栈落地且进度领先。
Fable5仅做对3.5%！大模型会看图，但还没有主动视觉
本文介绍了专门测量「主动观察」能力的视觉推理基准 ActiveVision，评测显示无外部工具时，大模型与人类准确率有近 9 倍差距，用工具后虽提升但仍远不如人类，还说明了其出题与避免取巧的方式。
Agent 的第一性问题：Proactive 与 Context 经济学
过去一年AI Agent能力提升，但用户体感未同步变好，原因在于人类注意力窗口有限。赛道分化，主动式桌面Agent是新方向，AirJelly是代表产品，五源资本对其创始人黄柏特进行访谈，探讨产品设计、应用场景等问题。
DASF:可落地，易执行的AI安全框架
随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。
Scaling时代终结了，Ilya Sutskever刚刚宣布
Ilya Sutskever 在访谈中称「Scaling 时代已终结」，指出当前模型存在能力参差不齐、泛化不足的问题。他认为人类情绪类似价值函数，人类学习效率高。未来 AI 发展将进入研究时代，他还分享了 SSI 战略及对 AI 对齐等问题的看法。
为什么堆算力救不了大模型
文章指出大模型和人类大脑归纳规律路径不同，AI追求精确但脆弱的拟合，人追求粗糙但不变的压缩。大模型在可收敛系统表现惊艳，不可收敛系统则崩盘，未来AI产品核心是打造可收敛封闭环境。