搜索：Transformer模型

「Transformer模型」共找到 7792 篇相关文章

解决扩散模型过拟合的创新框架T-LoRA

预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。

文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。

近日，Qwen 3 VL 系列模型合并到 llama.cpp 项目，支持图像输入和多轮对话，解决了架构兼容性问题。功能已入主干分支，运行需足够资源。Ollama 最新版同步支持其本地化。

谷歌新研究发现高级推理模型自发进化出'思想社会'，研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关'，实验表明教AI'吵架'更有效，其'社交技能'通用，给开发者带来新启示。

时隔21个月，豆包大模型2.0正式推出。它在多模态理解、企业级Agent、推理和代码能力上有提升，在多个基准测评中达业界最优。实测显示其在编程、数学问题处理上性能出色，性价比也具优势。

当前动作定制方法在应对多样化主体和场景时适应性差，清华与腾讯提出FlexiAct模型。它引入RefAdapter和FAE，能在空间结构差异大或跨域场景中精准适配动作，保持外观一致，表现优于其他方法。

谷歌创始人谢尔盖・布林回母校演讲，复盘谷歌发展，承认曾低估Transformer，让机会给OpenAI。还回顾谷歌诞生、AI掉队又靠Gemini 3翻盘的历程，给出对大学生、创业者建议，反思退休决定。

京东发布JoyAI - LLM Flash模型，激活参数小、推理快。它采用混合专家架构等技术，在基础架构、数据加工、强化学习等方面表现出色，还通过多Token预测等技术加速推理，为商业场景落地扫清障碍。

深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。

近期音频驱动肖像动画技术发展快，但现有方法存在嘴型声音不对、动作不自然等问题。阿里提出Talking - Critic奖励模型，构建Talking - NSQ数据集，还提出TLPO优化框架，提升多维度表现，实验超现有SOTA方法。