「安全研究」共找到 2667 篇相关文章
评测也很酷，Data Agent 自动化评测的三层框架与实战
在大模型技术飞速发展下，评估应用效果成难题。字节跳动尹小明分享自动化评测技术，提出三层评测框架，还介绍 Text - to - SQL 及深度研究评测改进，以及评估平台建设，最后展望自动化评测未来方向。
300只狗试用延寿药，「寿命曼哈顿计划」启动！
1300只狗参与「延长寿命」实验，被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显，制药、临床研究等多方面有进展。Altman等名人押注「永生」，但长寿也带来伦理等诸多问题。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
甲骨文副总裁吴承杨：AI 放大了数据优势，数据融合至关重要
甲骨文公司副总裁吴承杨称AI放大其数据优势，多模融合数据库至关重要。中国区技术咨询部高级总监嵇小峰表示企业构建Agent AI要关注数据访问需求和安全。Oracle用一体化架构解决融合问题，还介绍了相关技术及应用。
一个跑智能体，一个专门找漏洞：Google发布Gemini 3.8双版本
9月2日，Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等，已稳定上线；后者专用于发现修复漏洞，仅向特定方开放。二者共享基础能力，采用不同安全限制和部署环境。
看屏幕、用键鼠，我的 OpenClaw「睁眼」了
2026年5月11日，OpenClaw上线macOS桌面操控工具Peekaboo，提供像素级截图、UI元素识别和GUI自动化能力。它打破Agent局限，可接管桌面操作，部署简单，普通人也能用，还有安全保障，但也存在坐标偏移等问题。
HumanSense：探索多模态推理边界，打造「察言观色会共情」的全模态交互伙伴
蚂蚁集团与西安交通大学联合提出并开源 HumanSense，含评估基准与推理模型。通过细粒度评测、全模态消融等研究，提出优化策略，项目已在 GitHub 和 HuggingFace 开源，推动 AI 交互体验革新。
被 AI 大厂逼至绝望，这帮欧洲人发起了一场“科学复兴运动”
AI前沿成果被科技巨头锁在“黑箱”，欧洲科学家、工程师等发起“科学复兴运动”成立LAION。他们构建开放数据集，训练出表现优异的模型，还进行“爱丽丝梦游仙境”研究测试大模型，探讨推理模型发展方向。
性能提升11.74%！腾讯优图提出激励推理，专攻复杂指令
现有大语言模型处理复杂指令能力不足，腾讯优图研究团队提出激励推理方法。该方法能提升LLM处理复杂指令表现，在1.5B参数LLM上性能提升11.74%，媲美8B参数模型。