「人类灭绝风险」共找到 1616 篇相关文章
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
百川开源医疗增强大模型 Baichuan-M2：更符合中国临床诊疗场景，可 4090 单卡部署
百川智能发布并开源医疗增强大模型 Baichuan-M2，以更小尺寸反超 OpenAI 新模型。它可 4090 单卡部署，成本低，在 HealthBench 评测表现佳，免费开源，更适配中国临床诊疗场景。
GPT-5的所有传言，以及，Sora 2？
OpenAI今晚1点举办直播，GPT - 5将亮相。发布前关键信息汇总，包括直播时长变长、GitHub泄露四个版本、三档定价策略、突破人类基准测试等，还或同步发布Sora 2。
OpenAI拿下IMO金牌，职业数学家崩溃：我终于明白李世石为何会落泪
AI在IMO获金牌，数学家Dave White自我认同崩塌，认为这是一种‘死亡’，探讨AGI带来的身份危机。加密教授Adam Cochran则从哲学视角回应，称人生身份重建与崩塌不断循环，真正的‘自我’超越单一标签。
中科院“二氧化碳制糖”新成果全网热议！不依赖光合作用，“迈向深空前置技术”
中国科学院天津工业生物技术研究所提出新技术，首次构建体外转化系统，打通“CO₂→甲醇→蔗糖”合成路径。绕过植物光合作用制糖，能耗低、效率高，对解决全球变暖、粮食危机有启发。
独家揭秘OpenAI核心文件：AGI五级突破实锤！微软130亿投资或打水漂
新智元揭秘OpenAI核心文件，Ilya Sutskever曾预言AI无所不能，也担忧其失控后果。OpenAI与微软的合同中AGI条款成谈判核爆点，未公开论文划分AGI五级，让微软130亿投资或打水漂。
特朗普「全政府AI计划」竟在GitHub泄密！或于7月4日「独立日」上线
特朗普政府AI计划未亮相就在GitHub泄露。ai.gov网站或7月4日上线，要将AI融入政府各部门。该计划由TTS老板Thomas Shedd提出，不过网友质疑其可行性与安全性。
中科院开源PPT Agent，一键自动生成PPT智能体
中科院软件所等联合开源PPT Agent，它能分析参考幻灯片，按人类流程分两阶段生成PPT，有自我修正功能，测试显示在多维度优于现有方法，极大节省用户时间精力。