「安全研究」共找到 2748 篇相关文章
开源中小模型+Skills也性能暴增！卢森堡大学探索了小模型驾驭Skills的边界
卢森堡大学等研究探索小模型驾驭Skills的边界。工业界因数据安全渴望开源小模型，智能体Skills框架让小模型性能暴增。研究拆解小模型处理复杂任务的方法，还验证不同策略有效性，发现代码专用模型优势。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
Anthropic 最新的研究：AI 并未造成失业？
2026年3月5日，Anthropic发布经济研究文章，指出无明显证据证明AI已造成大规模失业。研究提出‘观测的暴露度’衡量维度，发现AI实际使用远低于理论能力，其替代工作进展比预期慢。
人类造工具200万年，工具开始研究工具！97年天才少年带队，把“AI寻找研究方向”做成了现实
2026年AI开始研究AI（AI4AI），深圳EvoMap团队用蜂群协作做出产品EvoX。他们创新Agent组织方式，有实验数据支撑其效果，还开源成果AutoResearch解决AI痛点，在生活场景优化旧算法可行。
最新研究！大模型“角色扮演”无效了？
沃顿商学院研究测试6个主流AI模型，进行超25000次测试，发现告诉AI扮演专家角色，不会让其回答更准确，反向设定‘低知识’角色有时表现更好，角色扮演不是提高准确性的万能钥匙。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
波士顿动力 | 人形机器人Atlas ，最新研究进展！
世界人形机器人运动会引发对自主机器人的讨论。波士顿动力与丰田研究院合作为 Atlas 开发大型行为模型（LBM），使其能自主完成复杂任务，研究团队展示成果并介绍模型构建流程、实践成果及研发原则。