「模型架构」共找到 8628 篇相关文章
清华联手千问重塑归一化范式，让 Transformer 回归「深度」学习
Pre - Norm和Post - Norm是Transformer架构中稳定信号流的关键范式，但面临权衡取舍。近日，清华黄高团队联合千问团队提出SiameseNorm，构建参数共享的平行通路，实现稳定训练并提升性能。
Transformers v5 中的分词系统：更简洁、更清晰、更模块化
文章聚焦 Transformers v5 分词系统，介绍分词概念、流程、主流算法，对比 transformers 和 tokenizers 库。着重讲 v5 改进，如架构与词表分离，解决 v4 黑盒问题，还能从零训练专属分词器。
SGLang Model Gateway 0.2 发布：企业级一体化AI原生编排
市面上一体化AI原生编排方案稀缺，Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来，核心能力升级，架构分三层，部署灵活，还支持Kubernetes集成和向后兼容。
清华&巨人网络首创MoE多方言TTS框架，数据代码方法全开源
清华与巨人网络联合首创 DiaMoE-TTS 多方言 TTS 框架，数据、代码、方法全开源。它基于 IPA 体系，有 MoE 架构和低资源适配策略，在多语种验证，为方言语音合成提供低成本、可扩展方案。
登顶多模态推理榜MMMU！UCSD新方法超越GPT-5、Gemini
加州大学圣地亚哥分校团队开发的DreamPRM-1.5在MMMU测评榜夺冠，超越GPT-5、Gemini 2.5 Pro Deep-Think。它细化加权粒度到样本，有Instance Table和Instance Net架构，采用双层优化与生成式奖励模型。
从VLA到RoboOmni，全模态具身新范式让机器人察言观色、听懂话外音
复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。
退隐3年后回归，周末写的AI一夜刷屏、一周拿下10万Star增速超Linux，Clawdbot之父首次长谈：如今几乎不看自己发布的代码
本文是对OpenClaw开发者Peter Steinberger的深度专访。他曾打造PSPDFKit，隐退三年后回归，用大模型工具开发出OpenClaw。他分享了开发历程、工作方式，探讨AI对编程的影响，还指出大公司采用AI的难点及对开发者的建议。
清华、西交联合开源发布了Cheers : 一条更简洁、更高效的统一多模态路线
清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。
马斯克刚刚真把 𝕏 平台推荐算法给开源了，核心也是Transformer
𝕏平台（原Twitter）将全新推荐算法开源，由与xAI的Grok模型相同的Transformer架构驱动。该算法预测用户行为对帖子排序。此前平台因算法问题被调查和罚款，开源或有此原因。