「安全研究」共找到 2659 篇相关文章
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
刚刚，Meta挖走OpenAI清华校友宋飏，任超级智能实验室研究负责人
本周四消息，原OpenAI战略探索团队负责人宋飏加入Meta，任新成立的Meta超级智能实验室研究负责人。今年6月起Meta开启AI人才争夺，已挖来至少11位顶尖人员，宋飏加入为其AI部门添活力。
高中辍学，22岁入职OpenAI成为「研究科学家」，他是怎么做到的？
文章讲述22岁高中辍学的Gabriel Petersson入职OpenAI成为研究科学家的故事。对比传统学习路径，介绍他自顶向下的学习法，分析其可行原因、适用场景，还给出行动建议，指出学位价值在改变。
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。
博士学位答辩PPT分享 | 基于神经网络的偏微分方程优化求解方法研究
本文聚焦基于神经网络的偏微分方程优化求解方法，指出传统数值求解范式有局限，物理信息神经网络（PINNs）虽有潜力但面临瓶颈。作者从多方面研究，形成工程流动问题分析框架与改进方法。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
不用跟AI客气了！新研究：语气越粗鲁回答正确率越高
宾夕法尼亚州立大学研究《Mind Your Tone》显示，与AI交流时说话越粗鲁，LLM回答越准。测试发现，对GPT - 4o特别客气时正确率80.8%，粗鲁时升至84.8%，但老模型不适用。
推理之父走了！OpenAI七年元老离职：有些研究这里没法做
新年伊始，OpenAI研发副总裁Jerry Tworek离职，他是编程和两大核心技术路线奠基者，攻克LLM编程和复杂推理商业化难题。他称想探索在OpenAI难开展的研究。此前已有多位核心人才出走，OpenAI或因商业化与安全问题留不住人。
Anthropic最新研究：Claude存在神秘J空间，与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。
Claude Code惊人身世曝光！竟脱胎于安全对齐，Boris：才完成1%
Claude Code起源于Anthropic内部安全对齐项目，其发展历经波折。从2021年早期尝试，到2025年正式发布，期间突破重重技术难题。虽已改变硅谷运转方式，但核心开发者Boris称只完成1%。