「安全论文」共找到 1858 篇相关文章
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
GPT-5攻入数学圈，证明定理快过博士生？网友热议AI新角色
9月初，arXiv一篇论文将GPT - 5写进数学研究成果。它解决了第四矩定理‘收敛速度’的空白，还在凸优化领域提升收敛界限。不过它常犯错，需人类引导，且成果原创性存疑，引发对科研和博士培养的担忧。
Agent可以自己进化了？！
论文《Automated Design of Agentic Systems》提出让Agent扮演设计师，“元代理”能自动生成新代理设计方案。用编程语言作设计空间，实现“设计自由”。实战中，AI设计的Agent全领域超越人类，还具备知识迁移能力，未来或有自主进化的AI生态。
NeurIPS 2025 | 面向具身场景的生成式渲染器TC-Light来了，代码已开源
TC-Light 是中科院自动化所张兆翔教授团队研发的生成式渲染器，能对长视频序列重渲染，减少 Sim2Real Gap 及实现数据增强。它克服了时序一致性和计算开销挑战，性能优于现有技术，论文与代码已开源。
让方程发现走向超大规模系统——《Predicting Dynamics of Ultra-Large Complex Systems by Inferring Governing Equations》精读笔记
论文《Predicting Dynamics of Ultra-Large Complex Systems by Inferring Governing Equations》提出Sparse Identification Graph Neural Network（SIGN），将方程发现工作流重新安排，在多类系统实验中展现可扩展性与长期预测能力，还在海表温度数据中恢复出共享动力学表达。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
ICLR 2026惊现SAM 3，分割一切的下一步：让模型理解「概念」
9月12日，匿名论文‘SAM 3: SEGMENT ANYTHING WITH CONCEPTS’登陆ICLR 2026，外界猜测出自Meta。SAM 3定义了可提示概念分割任务，性能比之前系统提升至少2倍，在多基准测试获SOTA成绩，但也有人质疑是旧概念包装。
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。