「AI模型安全」共找到 13714 篇相关文章
定义RAG新基准？谷歌发布 Gemini Embedding 2：首个原生多模态嵌入模型，延迟骤降70%
谷歌昨夜推出首个基于 Gemini 架构的原生多模态嵌入模型 Gemini Embedding 2，通过 Gemini API 和 Vertex AI 向开发者公开预览。它可将多类型数据映射到统一嵌入空间，多项基测排名第一，还获早期合作伙伴高度评价。
Proactor AI：首个自主行动的AI 智能体，无需唤醒，就能主动识别对面是个骗子
Proactor AI v1.0发布，号称是世界首个「自主行动」的AI队友。它能感知、思考并自主行动，如识别骗局。还提供主动式AI服务，应用场景广泛，用户反响热烈，带来人机交互范式转变。
ICLR 2026 Oral | 让大模型学会“像法医般思考”，实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注，现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架，构建HydraFake数据集，赋予大模型“模式感知推理”能力，实验效果超现有检测器，还给出未来研究方向。
图灵奖得主杨立昆现场追问：AI 还没越过这 3 道认知墙，谈什么通用智能？
图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。
千亿多肽市场迎来Scaling时刻，清华校友创业用AI重写发现规则 | 对话利太智药贾寅君
本文对话利太智药贾寅君，他从临床医学转向AI药物发现，创业聚焦多肽。他认为多肽泛用性强，能覆盖更多靶点。其团队构建合成数据，开发模型，如MEET、PepMirror，探索将技术落地成药。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
库里被「采访」、杨紫被「演」短剧？别慌！蚂蚁AI鉴真拿下CVPR 2026冠军，专治黑产
深度伪造技术滥用，明星成换脸受害者，引发社会关注。蚂蚁集团AI安全实验室队伍MICV获CVPR 2026挑战赛冠军，还发布检测资源仓库。团队提出基于DINOv3的框架，解决AIGC检测难题，成果显著。
腾讯祭出开源核弹！LeVo音乐生成模型，媲美Suno，支持零样本风格迁移，歌词完美匹配
音乐生成领域有重大突破，腾讯AI Lab开源高保真音乐生成模型LeVo。它由LeLM和音乐编解码器组成，能解决现有方法在音质、音乐性等方面的局限，实验显示其优于现有方法，功能强大且适用场景多。
5秒出4张2K大图！阿里提出2步生成方案，拉爆AI生图进度条
阿里智能引擎团队针对Qwen最新开源模型，将SOTA压缩水平从80 - 100步前向计算骤降至2步，速度提升40倍，5秒可出4张2K高清大图。已发布Checkpoint，集成到呜哩AI平台。文章还分析传统蒸馏方案问题并介绍团队改进策略。
韩松贾扬清之后，又一家清华系AI公司卖给英伟达，黄仁勋亲自招募95后联创
继韩松、贾扬清后，又一家清华系AI公司Nexusflow被英伟达收购。黄仁勋招募其联合创始人，公司成果亮眼，如开源模型表现超GPT - 4等，这或与生态联系有关，收购也是英伟达活跃布局的一环。