「安全研究」共找到 2667 篇相关文章
AI教父辛顿上海WAIC主题演讲：LLM真的理解语言，数字智能极其危险，可以无限复制
AI教父杰弗里·辛顿在WAIC开幕式演讲，对AI发展警惕且悲观。他认为LLM真理解语言，数字智能与生物智能差异大，AI进化快很危险，人类应全球合作研究让AI向善。
强化学习新发现：无需数学样本，仅游戏训练AI推理大增
莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现，让多模态大语言模型玩简单游戏，无需数学样本，就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。
Claude、GLM、GPT谁才是真正的AI软件工程师？首个持续更新Visual Spec-to-App Benchmark发布
近年来，Coding Agent 发展迅速，「AI 软件工程师」渐成现实。但目前缺少系统评测其从设计稿开发产品能力的公开 Benchmark。为此，多校研究团队推出 VISTA，可多维度评测 Coding Agent 开发能力，且持续更新。
重磅！DeepSeek R1论文经过同行评议登上Nature封面，梁文锋作为通讯作者再次创造历史
DeepSeek R1论文《DeepSeek - R1 incentivizes reasoning in LLMs through reinforcement learning》登上Nature封面，梁文锋为通讯作者。它是首个经同行评议的有全球影响力的LLM，训练成本低，创新使用‘纯粹强化学习’方法，启发众多研究。
Anthropic 兄妹 Dario Amodei 和 Daniela Amodei 最新对话：Claude 为什么一直限速？
在 5 月 6 日 Anthropic 开发者大会上，兄妹 Dario Amodei 和 Daniela Amodei 对话，谈到 Claude 限速因 2026 年 Q1 增速年化 80 倍远超规划，还涉及开发者生态、模型训练、能力释放等话题，强调平衡发展与安全。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
硅基大脑记忆觉醒！会遗忘、会反思、会成长的AI正在到来
哈尔滨工业大学等机构团队发表研究，用认知神经科学视角审视AI记忆系统，探讨如何让AI产生“自我”，构建会遗忘、反思、成长的记忆大脑，还涉及记忆分类、存储、管理、评估、防御及未来演进等内容。
无预训练模型拿下ARC-AGI榜三！Mamba作者用压缩原理挑战Scaling Law
CompressARC研究中，Mamba作者Albert Gu团队给出不同于大规模预训练的智能配方——最小描述长度（MDL）。一个76K参数、无预训练模型，在ARC - AGI - 1基准解决20%问题，获ARC Prize 2025第三名。
微软GigaTIME登上《Cell》：5美元切片变成免疫图谱
微软GigaTIME登上《Cell》，能把5美元H&E切片翻译成稀缺免疫图谱，在人群尺度重建TIME。它突破癌症免疫研究旧限制，成果经多数据集验证，已在Foundry Labs与HuggingFace全量开源。
陶哲轩联手GPT-5，1小时攻克数学难题！全程无需编码，OpenAI副总惊呼
陶哲轩联手ChatGPT攻克MathOverflow复杂数学题，节省数小时编码时间。他先让ChatGPT生成代码，后改用分步对话找参数，还验证结果。AI助其发现错误、优化流程，凸显在数学研究的潜力。