「双预训练架构」共找到 3645 篇相关文章
老牌Transformer杀手在ICLR悄然更新：Mamba-3三大改进趋近设计完全体
Transformer架构仍是AI主流，Mamba作为挑战者影响力大。Mamba-3在ICLR 2026盲审，有梯形离散化、复数化状态空间模型、多输入多输出状态空间模型三大改进，实证表现佳，适合多场景。
刚刚，Meta风雨飘摇中发了篇重量级论文，作者几乎全是华人
风雨飘摇的Meta发布重量级论文《Agent Learning via Early Experience》，提出「早期经验」新范式，让AI智能体「无师自通」，为突破强化学习瓶颈提供新思路。该范式结合两种策略，实验效果显著，还指出了局限与未来方向。
AI花17小时写了篇30页学术论文！自主选题，包含实验，还符合APA格式规范
Virtuous Machines AI系统花17小时、114美元，找288个真人做实验，写了篇30页认知心理学领域学术论文，从选题到成稿全自动化。其架构独特，不过也存在理论误解等小缺点。
刚刚，这家0产品0模型就估值854亿的公司，终于发布了首款产品！
Thinking Machines Lab推出首款产品「Tinker」，这是专为语言模型微调而生的API，让开发者摆脱底层架构束缚，用简单Python代码专注创新。它功能强大，目前免费私测，已获普林斯顿、斯坦福等团队使用。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
对抗协作+原型学习！深北莫FedPall开源，联邦学习破局特征漂移，准确率登顶SOTA
深圳北理莫斯科大学人工智能研究院在ICCV发表FedPall算法，结合原型对比与对抗协作学习，在多种特征偏移数据集获SOTA性能。该算法通过多步骤训练缓解特征漂移，在多个公开数据集表现出色。
从Transformer到GPT-5，听听OpenAI科学家 Lukasz 的“大模型第一性思考”
2017年《Attention Is All You Need》提出Transformer架构，重塑AI版图。其作者“Transformer八子”中，Lukasz Kaiser加入OpenAI，参与GPT-4、GPT-5等研发。他10月将出席大会分享见解，曾预言多模态等趋势已渐成现实。
老黄回应英伟达入股英特尔
英伟达50亿美元入股英特尔，将持有超4%股份成大股东之一。双方要联合开发用于PC和数据中心的AI芯片，未来芯片或成CPU与GPU融合的超级芯片。此合作或冲击AMD和台积电。
证书透明度如何重塑互联网信任
文章探讨引入证书透明度（CT）的原因、工作原理及对数字信任的意义，揭示CA机构信任危机，介绍CT架构和实践工具，还展望其未来创新，如Static Sunlight API、委托凭据等。
从「对口型」到「会表演」，刚进化的可灵AI数字人，技术公开了
快手可灵团队让数字人从「对口型」进化到「会表演」，全新数字人功能在可灵平台公测。技术报告Kling - Avatar解析背后技术路径，设计多模态两阶段生成框架，实验显示其在多方面领先竞品。