「安全论文」共找到 1858 篇相关文章
AI幻觉成WAIC首个关键词，Hinton敲响警钟，讯飞星火X1升级展示治理新突破
今年WAIC上，‘幻觉’成热议词。诺奖得主Hinton、郑南宁院士等指出AI幻觉问题制约其可靠性与实用性。OpenAI等联手研究CoT监测保障安全。讯飞星火X1升级版在幻觉治理等方面取得进步，为可信AI提供佐证。
监管叫停外资收购Manus背后，有一个被忽视的关键问题｜甲子光年
4月27日，国家发改委叫停外资收购Manus项目。该项目从2025年12月Meta宣布收购起备受关注。此次监管选择外商投资安全审查路径，预示AI时代监管侧重技术控制权，也可能加速VIE架构消亡。
9.8K Star！谷歌开源神器 OSV-Scanner，一条命令扫出所有依赖漏洞！
文章介绍谷歌开源的轻量级命令行工具 OSV - Scanner，它能扫描项目依赖中的已知安全漏洞，连接项目依赖与 OSV.dev 数据库。支持多语言、多包管理器，有多种功能，可离线使用，还能提供修复建议和许可证扫描。
从静态模型到数字生命体：自进化AI Agent综述
近年大型语言模型催生AI智能体发展，但现有系统依赖人工预设，难适应动态环境。论文提出自进化AI智能体，可通过环境反馈自动优化，还提出三定律、四阶段范式演进模型等，开源EvoAgentX框架。
苹果一口咬死AI不会思考！OpenAI前高管直接开怼：AGI已来，别再酸了
苹果论文《思考的错觉》挑战AI推理能力基本假设，引发争议。OpenAI前研究主管则称AGI时代已近。多项研究测试推理模型，指出其有进步也有瓶颈，未来或需换思路，评估方式也待完善。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
前两天刚被群嘲，ChatGPT转头就解决了一个数学难题
前些天，OpenAI研究员宣称GPT - 5‘发现’数学难题解法被指只是检索文献引群嘲。但加州大学洛杉矶分校教授用ChatGPT解决凸优化未决问题，还有教授用其发现命题反例，甚至要将其列为论文一作，AI正成研究伙伴。
刚刚，Claude 5.1 发布！全球最强模型来了
Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1面向普通用户等，Mythos 5.1面向高风险领域伙伴。Fable 5.1性能优、价格低，在多测试中表现提升，还能用于科研，且安全防护机制升级。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
谷歌Deep Think八语奥赛屠榜！自主攻克4大未解难题，科研壁垒崩塌
谷歌Deep Think横扫亚欧多语种竞赛，成绩亮眼。虽评测数据来自内部，未公开细节且是区域赛，但它定位为‘人类智力倍增器’，其驱动的Aletheia已产出论文，解决4个未解问题，在多领域展现潜力。