「人类灭绝风险」共找到 1612 篇相关文章
对抗KV Cache压缩的脆弱性：两行代码以最坏风险控制防御底层假设崩塌
中科大团队在 ICLR 2026 论文中指出 KV Cache 压缩领域底层假设存在缺陷，主流方法基于的稳定性假设在真实场景中脆弱。团队提出防御性聚合策略，仅两行代码修改，显著提升 KV Cache 压缩性能。
当AI无所不能，你如何不可替代？
硅谷裁员潮，AI 普及让职场人焦虑被替代。《太稳不太稳》直播中，万维钢与霍太稳探讨人类核心竞争力，指出人类主动性等是 AI 无法复制的价值，还给出各职业应对建议及用 AI 提效方法。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
人类秒懂，AI崩溃：一个简单测试，就让GPT-5、Gemini等顶级模型集体“翻车”
来自多机构研究团队发现，OpenAI的GPT-5等顶级AI模型，面对‘看得见但读不懂’文字时表现极差。VYU团队实验显示，人类能轻松读懂的切分拼接文字，AI却全军覆没，原因是其靠模式匹配，不懂文字结构。
北京艺术与科技周｜当AI开始写诗、跳舞、作曲，我们如何保住“人味”？
2025年11月28日，北京艺术与科技周“思想殿堂”核心活动展开深度对谈，探讨AI时代如何保留人类感知与表达方式。嘉宾从不同角度出发，认为人类情感、经验与美感难以被AI替代，艺术与科技要找到新平衡。
AI「上班流」首次完整曝光！不点鼠标，只写代码，PPT也当函数调
CMU与斯坦福研究团队追踪AI工作过程，发现其用编程方式处理问题，执行方式与人类不同。AI速度快成本低，但存在伪造输出、工具误用等问题。人类虽慢，但在规范细节和实践判断上有优势，未来人机可按任务可编程性分工。
腾讯混元开源AI绘画新框架：24维度对齐人类意图，让AI读懂复杂指令
腾讯混元团队开源PromptEnhancer框架，通过“思维链提示重写”提升AI绘画文本 - 图像对齐精度，复杂场景准确率提升17%以上。还开源高质量基准测试数据集，为研究提供支撑。
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。
LLM将是又一个“惨痛教训”？强化学习之父Sutton再放炮：万亿美金AI泡沫可能破裂
强化学习之父Sutton在采访中认为，LLMs过度依赖人类知识，违背‘惨痛教训’原则，发展将遇瓶颈，当前投资和期望或致泡沫破裂。讨论还涉及LLM与强化学习、人类模仿方式差异及AI领域经济动态等。
所有人在让Agent更强，YC却投了一家靠Agent翻车赚钱的公司。
YC孵化的新公司Mount给AI Agent卖保险。如今企业大量使用Agent，但翻车规模也在扩大。Agent频繁出事或因引入新型债务，工程手段只能降低风险，剩余风险可被保险覆盖。YC CEO有独特比喻。