「安全研究」共找到 2752 篇相关文章
别再手写 Skill 了！微软最新研究：像神经网络一样训练 Skill
微软研究提出 SkillOpt 方法，把 Skill 文档当「权重」训练，在 52 个测试组合中全部最优或并列最优，平均提升 23.5 分，碾压人类手写。该方法跨模型、环境有效，已开源，使用方便。
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
AAAI 2026 Oral | 手机传感器正在泄露隐私？PATN实时守护隐私安全
移动应用获取手机传感器数据支撑重要功能，但带来隐私隐患。西安交通大学与东京科学大学在AAAI 2026提出PATN框架，基于对抗攻击思想，设计两大核心技术，能在多种场景下守护隐私安全。
Megatron 1F1B流水线并行中的负载不均衡问题研究
文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’，原因是最后一个Stage计算慢致不同步，额外计算引发通信延迟，还梳理了流水线各阶段执行过程。
夸克高考，背后藏着的其实是垂类场景「深度研究」方法论
夸克早在2019年就提供高考志愿填报服务，今年推出“志愿报告”功能。其“志愿报告”Agent已生成超1000万份报告，采用PDCA模式给出指导。夸克构建可信度体现在数据库和自研模型上，还降低了幻觉率。
人在美国，待过三家AI Lab，全凉了！
科技行业大裁员，Meta裁掉老将田渊栋，AI从业者人心惶惶。南洋理工大学副教授Boyang Li工作过的三家工业研究实验室全倒闭，他分享经历，探讨工业研究困难的原因。
告别盲选LLM！ICML 2025新研究解释大模型选择的「玄学」
弗吉尼亚理工大学研究团队提出 LensLLM 框架，基于 PAC - 贝叶斯泛化界限揭示 LLM 微调性能“双相演进”，可精准预测微调性能、大幅降低计算成本，为 LLM 选型提供新工具。
刚刚，Anthropic 53页绝密报告曝光：Claude自我逃逸，将引爆全球灾难！
Anthropic发布53页报告预警，Claude Opus 4.6风险逼近ASL - 4，若自我逃逸将致全球失控。2026年AI领域状况频出，安全专家离职，多起危险事件凸显AI安全问题严峻。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
谷歌AlphaFold得了诺奖，但DeepMind根本没引用前人论文？
AlphaFold获诺奖引发争议。2016年Vladimir Golkov博士在NeurIPS提出的研究或为其「原型」，导师Daniel Cremers质问DeepMind为何不引用。此外，AI界大佬指出早有相关研究，AlphaFold并非孤立贡献。