「安全论文」共找到 1858 篇相关文章
00后挑大梁！近20国选手激战外滩大会，AI科创赛三赛道冠军诞生
9月10日，2025外滩大会AI科创赛在上海落幕，设三大核心赛事，80个项目获奖。00后成主力，近20国选手参与。大赛提供资源支持，AI硬件赛受青睐，金融与安全赛道涌现创新方案，还开源数据集。
Meta 放出大招：让 AI 实现自我进化，Karpathy 的 autoresearch 沦为小弟
Meta联合多机构发布论文，提出HyperAgents框架，让AI不仅改进自身，还能改进「改进自己的方法」。它打破传统AI自我改进瓶颈，在多领域测试表现出色，还自发形成记忆机制，有迁移和叠加效果。
阿里开源AgentScope 1.0，多智能体从开发到部署一条龙服务
大语言模型发展下，多智能体系统开发面临诸多难题。阿里通义实验室开源AgentScope 1.0框架，以开发者为核心，有三层解耦架构，模块化设计，还解决安全和管理问题，在工程化特性上优势明显。
具身智能的Skill时刻！英伟达开源机器人技能库，Jim Fan：范式变了
英伟达开源能让机器人持续成长的技能库ASPIRE，类似机器人版Coding Agent，会沉淀机器人操作经验。英伟达机器人主管Jim Fan称其代表全新持续学习范式，论文实验验证其效果好于此前方法。
从传统编程转向大模型编程
文章指出大模型编程时代，开发者要从‘代码产出者’变为‘文档定义者’，介绍其优势、人+AI结对编程模式，还提及模型工具技巧、开发流程、常见陷阱及应对策略，强调文档驱动和安全合规。
谷歌MCP Toolbox for Databases拆解：助你快速构建数据访问智能体的神器
企业Agent运行常需访问数据库，但会遇到工程问题。本文详解谷歌开源项目MCP Toolbox for Databases，介绍其概念、好处、使用方式，还展示安装、配置、启动过程及不同模式下使用方法，兼具安全管控与可观测性。
从 VLM 到 VLA，智驾距离跨过「L2.9999」还有多远？
2025 年上半年，国内智驾安全受关注，浮夸宣传行不通。文章探讨厂商智驾宣传卡「L2.9999」玄机、端到端成主流原因等，分析了 L2 与 L3 区别及事故责任界定，还提及车企应对策略。
为老父亲做的桌面 Agent，不小心在 GitHub 霸榜一周
OpenHuman是TinyHumans AI构建的开源桌面AI Agent，登上GitHub榜单并霸榜一周。它想成桌面级个人AI操作系统入口，但使用体验与愿景有差距，工程架构有亮点，也存在安全风险，其产品哲学有价值但执行粗糙。
ICLR发了Oral又反悔，理由是查到了制裁名单？
一篇被ICLR接受为Oral的论文，因作者在arXiv预印本提及工作部分在被美国制裁的RAIRI机构完成，遭ICLR无视审稿直接拒稿。网友将其与NeurIPS类似事件对比，还对作者是否“刻意隐瞒”有不同看法。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。