「安全研究」共找到 2659 篇相关文章
读博最后一年转方向，拿到OpenAI offer：我的面试之路充满「意外」
布朗大学博士生Yong Zheng - Xin自宣下月加入OpenAI做AI安全研究。他博士最后一年转方向，分享求职经历，总结6个意外洞察，如求职重要的可能仅一两篇论文、面试形式多样等。
3D重建的惊人进展：多所世界名校联合发布论文，告诉你AI在3D世界的研究现状
多所世界名校联合发布调查研究论文，回顾用于3D重建和视图合成的前馈技术并分类，研究关键任务及应用。前馈模型打破每场景优化魔咒，带来速度和泛化能力的提升，解锁新应用，但也面临挑战。
Agent面向结果交付，技术正从单点突破加速转向工程与系统竞争 |《中国软件技术发展洞察和趋势预测研究报告 2026》正式发布
2025 年技术热点不断，竞争重心从单点突破转向系统级等竞争。InfoQ 研究中心发布《中国软件技术发展洞察和趋势预测研究报告 2026》，盘点技术发展，还展望 2026 年十大技术趋势。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
OpenAI十周年「血色浪漫」：11位联创出走8位，奥特曼深夜发文
OpenAI迎来十周年，发布短片回顾发展。过去11位联创出走8位，奥特曼发文揭秘细节，称吃到时代红利。新晋女高管分享炼成秘诀，如研究驱动产品、自下而上创新、重视安全等。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
计算机安全第一人宋晓冬，加入Meta
本周四，UC Berkeley 计算机教授宋晓冬宣布加入 Meta 超级智能实验室，任 AI 研究副总裁。她是计算机安全领域顶尖学者，其团队也一同加入。此外，AI 推理大牛 Denny Zhou 数月前也已加入 Meta。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
Anthropic扒了Claude的数据，发现一个残酷真相：越拥抱AI的人，越先被AI干掉。
Anthropic研究报告显示，越拥抱AI的行业越先被AI替代，如程序员、客服等岗位渗透率约70%。虽目前未大规模失业，因理论与实际渗透有差距，但随着阻力被击破，失业率恐上升，年轻人入职率已受影响。