「安全研究」共找到 2667 篇相关文章
刚刚，英伟达革了自己的命：智能体自主进化7天，干掉所有算子工程师、GPU专家
英伟达新研究AVO构建了新型进化变异算子，用自主编码智能体取代经典方法。智能体7天自主进化，优化MHA内核，性能超cuDNN和FlashAttention - 4，还能快速适配GQA，展现强大泛化能力。
Nature | 清华&芝大团队：AI让个体科学家“加速”，却让科学边界“收缩”
2026年1月14日，清华与芝大团队在《Nature》发表研究，通过分析4100余万篇论文，揭示AI融入科研的“双重效应”：它是个人科研“加速器”，让使用者产出和职业发展提升；也是科学整体“收缩器”，使集体知识疆域收窄。
7 亿用户白嫖 ChatGPT，OpenAI 怎么从他们身上赚到钱？
ChatGPT有7亿多免费用户，SemiAnalysis研究认为GPT - 5的‘Router’机制能让OpenAI从免费用户身上获利。‘Router’可降低成本、提升性能，结合新功能及合作，有望开启交易抽成的商业化模式，冲击谷歌等巨头。
扣子要做 Agent 时代的 Infra，附开源版搭建全流程
扣子宣布开源 Coze Studio，后端用 Golang，前端用 React 和 TypeScript，基于微服务架构。借助火山引擎 ECS 可一键部署，还能更换自定义模型。官方表示开源是为顺应趋势、确保安全及获开发者反馈。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
热门 Skill 精选介绍
文章介绍热门Skill，含元技能、专家经验包、前端设计开发等多领域技能。如find - skills可帮用户发现安装技能，frontend - design强调前端设计美学，last30days能生成多平台趋势研究报告。
程序员都在给AI当“监工”！7万多条编程消息揭开当前编程现状
圣母大学和范德堡大学研究团队剖析超7万条编程指令，揭示开发者与AI编程助手协作现状。开发者多当“监工”，工作从敲代码转向指导AI、诊断错误等，还总结出人机协同的诸多规律。
视频模型假装在推理？MME-CoF新基准评估12个推理维度
视频生成模型如Veo - 3能生成逼真视频，但推理能力存疑。香港中文大学等校研究者设计12项测试，发现模型只能模仿表面模式，未真正理解因果。研究推出MME - CoF基准，为评估指明方向。
DeepMind再登Nature：AI Agent造出了最强RL算法！
Google DeepMind团队提出DiscoRL，让智能体在多环境交互中自主发现强化学习规则，无需人类设计。它在Atari基准中击败MuZero，在未见过的游戏中也稳定高效，相关研究登《Nature》。
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
在NeurIPS 2025，哥大与罗格斯提出LARGO，它不改提问，直接在模型“潜意识”动手脚，绕过安全防护输出不该说的话。其分三步攻击，成功率高、隐蔽且迁移性强，暴露大模型根本性弱点。