「AI安全研究」共找到 10992 篇相关文章
刚刚，OpenAI任命新CEO！
OpenAI宣布39岁的Fidji Simo出任「应用CEO」，向奥特曼汇报。奥特曼仍为CEO，未来专注研究、算力与安全。Fidji经验丰富，曾在Facebook工作十年，还担任过Instacart CEO。
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
澳洲大神用ChatGPT手搓疫苗抢命，救活癌症晚期爱犬！OpenAI总裁爆赞
澳洲AI大牛Paul Conyngham无生物学背景，用ChatGPT+AlphaFold为患癌爱犬设计全球首支定制mRNA疫苗，数周肿瘤缩小50%，引发全网关注，OpenAI总裁等盛赞，或推动人类癌症治疗。
Anthropic CEO承认了！成立公司，因为看不惯奥特曼说谎
Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。
浙大打造全球最大类脑计算机，拥有20亿个神经元，接近猕猴大脑规模，能运行DeepSeek
浙江大学脑机智能全国重点实验室发布全球规模最大类脑计算机“Darwin Monkey（悟空）”，用Darwin 3芯片构建，有超20亿脉冲神经元与1000亿突触连接，逼近猕猴大脑规模，能运行DeepSeek等应用。
2小时入门「个性化联邦学习」，上交清华开源斩获1700+星 | JMLR'25
上海交通大学和清华大学研究人员开源个性化联邦学习代码库PFLlib，含39种算法、3种场景和24个数据集，支持模拟500设备训练，还有隐私保护评估工具，降低研究门槛。
Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了
Redis之父Antirez分享开发经历称人类程序员仍比大模型出色，举例说明在解决Redis复杂bug时，人类的创造力能想出奇特有效的解法，而大模型较难做到。开发者看法不一，有将其当助手，也有认为它会干扰思路。
没有LeCun，Meta挖角OpenAI、Google整装再战，OpenAI调薪应对
Meta作为大模型开源领军全面落后，扎克伯格重开炉灶，成立Meta super intelligence Labs，高薪挖角OpenAI、Google等，集齐其核心骨干。OpenAI面临挖角，将重新调整薪酬稳住阵营，凸显AI时代人才重要性。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
从视觉压缩，到视觉记忆：MonkeyOCRv2以重建保留文档页面证据
文档视觉编码器对LLM理解和推理很重要。MonkeyOCRv2提出‘重建即文档视觉记忆’，通过多组实验验证其有效性，还发布MonkeyDoc v2数据集，推动公平比较的研究文化。