「安全论文」共找到 1858 篇相关文章
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
AI Agent已过时？OpenAI亮出王牌Deep Research！
浙江大学一篇综述论文《A Comprehensive Survey of Deep Research》系统性梳理了Deep Research赛道。它是一类AI系统，其背后的Agent范式可迁移到各场景，文章介绍了其技术、架构、应用及面临的挑战与未来方向。
精准调控大模型生成与推理！浙大&腾讯新方法尝试为其注入“行为定向剂”
ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。
甲骨文副总裁吴承杨：AI 放大了数据优势，数据融合至关重要
甲骨文公司副总裁吴承杨称AI放大其数据优势，多模融合数据库至关重要。中国区技术咨询部高级总监嵇小峰表示企业构建Agent AI要关注数据访问需求和安全。Oracle用一体化架构解决融合问题，还介绍了相关技术及应用。
一个跑智能体，一个专门找漏洞：Google发布Gemini 3.8双版本
9月2日，Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等，已稳定上线；后者专用于发现修复漏洞，仅向特定方开放。二者共享基础能力，采用不同安全限制和部署环境。
看屏幕、用键鼠，我的 OpenClaw「睁眼」了
2026年5月11日，OpenClaw上线macOS桌面操控工具Peekaboo，提供像素级截图、UI元素识别和GUI自动化能力。它打破Agent局限，可接管桌面操作，部署简单，普通人也能用，还有安全保障，但也存在坐标偏移等问题。
NIPS2025 | A-Mem让Agent拥有动态自我记忆功能，达到新SoTA
近年来，LLM代理需长期内存系统，但现有系统缺乏灵活性。论文提出A - Mem能动内存系统，受Zettelkasten启发，能让记忆‘自我整理’和‘自我更新’，在多基准测试领先，也指出了局限性和未来方向。
从「会说」迈向「会做」，LLM下半场：Agentic强化学习范式综述
过去LLM训练多依赖PBRFT范式，但局限明显。2025年初起，Agentic RL新范式受关注。此综述论文梳理该方向，覆盖500+研究，构建理论框架，讨论未来挑战，助LLM从「会说」迈向「会做」。
Fable第一，谁第二？Anthropic钦点8款模型名单曝光
Anthropic官宣Claude Fable 5全球上线，公布安全测试结果，8款模型包括中国的Kimi K2.7。北美公司也用行动认可中国模型，Kimi在多方面表现出色，其商业模式类似Anthropic，未来潜力大。