「扩散Transformer」共找到 462 篇相关文章
谷歌创始人布林:当年发完Transformer论文,我们太不当回事了
在斯坦福大学工程学院百年庆典活动上,谷歌联合创始人谢尔盖・布林与校长、工程学院院长对谈。他回顾谷歌发展,称曾对Transformer论文未足够重视,还分享对专业选择、大学模式、学术与产业等方面的看法。
告别Transformer,重塑机器学习范式:上海交大首个「类人脑」大模型诞生
上海交通大学团队发布首个「类人脑」大模型 BriLLM,脱离传统 Transformer 架构限制。它基于 SiFu 学习机制,有可解释性、能无限处理上下文等优势,还支持多模态融合,已获交大重点项目资助。
直播预约 | Transformer 模型能否通过连接训练数据中的离散知识进行推理?
为研究Transformer是否具备组合式推理能力,提出FTCT合成任务。实验发现Few - shot CoT提示可激发推理能力,训练与测试相似度、模型复杂度影响推理能力。还分析了其内在机制,展示其泛化推理潜力。
刚刚,马斯克开源基于 Grok 的 X 推荐算法:Transformer 接管亿级排序
X 工程团队宣布开源 X 推荐算法,该算法结合网络内外内容,用基于 Grok 的 Transformer 模型排名。马斯克曾在 2023 年开源部分算法,此次是近三年后再行动。算法开源或因平台此前分发机制受争议。
并行扩散架构突破极限,实现5分钟AI视频生成,「叫板」OpenAI与谷歌?
近日,CraftStory 推出 Model 2.0 视频生成系统,凭借并行扩散架构破解视频时长难题,可生成长达五分钟视频。其由 OpenCV 创建者 Victor Erukhimov 创立,此次突破或为企业带来商业价值,还计划开发新模型。
The Information:OpenClaw 在中国AI圈的发酵和扩散速度,远超硅谷想象
The Information报道称,OpenClaw在中国AI圈发酵和扩散速度远超硅谷想象。字节、阿里、腾讯在云平台上线其服务,开发者可云端运行。围绕它的生态在中国疯狂生长,还渗透到硬件领域,对创业者是不可逆冲击。
英伟达、港大等发布创新KV缓存,实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型,英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算,还提出基于置信度的平行解码策略,测试显示能加速且保持生成质量。
突发,美商务部叫停「AI扩散规则」藏杀机!英伟达市值再破3万亿
13日晚美商务部撤销《AI扩散规则》,该规则曾遭科技巨头和盟友反对。同时出台加强半导体出口管制新措施,精准打击中国AI发展。而英伟达因规则废止受益,市值再破3万亿。
Transformer论文作者重造龙虾,Rust搓出钢铁版,告别OpenClaw裸奔漏洞
Transformer作者Illia Polosukhin重造安全版龙虾IronClaw。OpenClaw安全状况差,IronClaw用Rust重写,建立四层防御,还能防提示注入。其背后是NEAR更大构想,目标是用户掌控数据和资产。
其实,扩散语言模型在最终解码之前很久,就已确定最终答案
随着扩散语言模型(DLM)发展,它成自回归(AR)模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象,提出 Prophet 策略,实验显示其能在保持高质量生成时显著加速推理。