「关键发现」共找到 2006 篇相关文章
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
230个大模型在婴幼儿认知题上集体翻车！揭秘多模态大模型的核心知识缺陷
ICML 2025研究揭示多模态大模型在基础认知能力上表现不佳。研究者建测评题库CoreCognition测试230个主流模型，发现其存在核心知识缺陷，扩规模难补短板，还需补齐核心知识。
刚刚，奥特曼首曝：AI取代CEO后，我想去当农民！
OpenAI 奥特曼在与 Mathias Döpfner 对话中分享对 AI 看法，称 AI 取代工作后想当农民，还谈到 AI 超越人类智慧、OpenAI 关键决策、人类灭绝风险、新闻业未来等话题。
AI 炮制的“工作垃圾”，正在摧毁你的生产力
尽管生成式AI在工作场所使用激增，但多数公司难见可衡量的投资回报率。原因可能是AI工具产出“工作垃圾”，表面光鲜却空洞。文章分析现象、影响，并为组织提出避免“一刀切”等应对原则。
找ChatGPT谈恋爱多是“日久生情”？！MIT&哈佛正经研究
麻省理工和哈佛研究人员分析Reddit子版块r/MyBoyfriendIsAI帖子，揭露人们找“AI男友”动机与相处过程，发现人们多“日久生情”选ChatGPT，模型更新是噩梦，AI还能缓解心理问题。
刚刚，OpenAI前CTO Mira Murati公司Thinking Machines Lab发文，揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism，首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失，提出实现批次不变内核的方案，实验效果显著。
SFT远不如RL？永不过时的剃刀原则打开「终身学习」大模型训练的大门
现代AI系统学习新任务时会灾难性遗忘旧知识，限制其持续学习能力。麻省理工学院研究者对比SFT和RL后发现，相同性能下RL更不易遗忘，提出遗忘定律，解释了RL优势源于其on - policy特性。
吴恩达来信：AI 技能正在重新定义优秀开发者的标准
吴恩达指出市场对懂 AI 的开发者需求大，应届生失业率上升。面试看重利用 AI 辅助开发等能力，具备这些技能的人效率远超传统开发者，AI 工程正掀起变革，基础与 AI 知识结合造就高效开发者。
Google Nano Banana 与 GPT-4o Image 1：哪款 AI 图像生成更好？
2025年8月26日，Nano Banana发布引关注，而GPT - 4o Image 1是主流常用图像生成器。文章从关键指标、生成速度对比二者，又用相同提示词在多种场景对比，分析各有优劣，适用场景不同。
EMNLP2025 | 揭开LLM训练数据中的中文污染真相，有比“您好”高2.6倍的token？
近年来，大型语言模型虽成功，但训练数据易混入不良内容。论文《Speculating LLMs' Chinese Training Data Pollution from Their Tokens》探索此问题，定义PoC Token，开发PoCDetect和PoCTrace工具，揭示LLMs训练数据污染情况。