「自注意力机制」共找到 1948 篇相关文章
X-Actor 惊艳登场！长时唇动+情感同步人像动画生成
字节提出 X - Actor，一个音频驱动自回归扩散框架，能通过一张静态参考图像和一段音频生成逼真、富有情感表达的人像动画视频。其核心是两阶段解耦生成流程，实现长时间唇形同步与情感音频一致性。
大模型顿悟原理！Meta新论文说清楚了
Meta超级智能实验室（FAIR）最新论文把大模型顿悟（grokking）现象的数学机制说清楚了。提出Li2数学框架，将两层神经网络的grokking动态分三阶段，还推导了泛化缩放定律等。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
两分钟Claude Code模型换成DeepSeek，立省17倍，缓存后爆省120倍
GitHub开源deepclaude，两分钟可将Claude Code模型换成DeepSeek V4 Pro，开销直降17倍。自带上下文缓存机制，重复对话成本降120倍。支持多后端选项，可丝滑切换，还能打破设备限制远程编程。
刚刚，何恺明团队新作，「嵌入式语言流」ELF来了
何恺明团队提出ELF模型，将扩散过程置于连续向量空间，只在最后翻译成词。它用一个网络实现去噪和解码，引入自条件机制。实验显示，ELF用不到其他方法十分之一数据，生成质量全面领先。
深入理解OpenClaw技术架构与实现原理（下）
文章为《深入理解OpenClaw技术架构与实现原理（下）》，讲解各系统模块，如SandBox沙箱系统、记忆管理等，还介绍自进化、工作区与路由等机制，最后展望企业级智能体架构和应用方向演进。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。
NeurIPS 2025 | Code Graph Model：重塑代码大模型架构，利用“代码图”突破仓库级编程瓶颈
在 NeurIPS 2025 上，蚂蚁全模态代码算法团队展示「Code Graph Model (CGM)」，它将代码库图结构注入 LLM 底层注意力机制，打破业界刻板印象，在权威榜单上表现出色。文章解析其架构、训练策略和配套框架。
我MiniMax，用实习生处理数据，照样屠榜开源大模型
MiniMax M2屠榜开源大模型，引发社区热议。它在注意力机制、数据处理、思考模式上另辟蹊径，公开技术细节。M2团队选Full Attention，雇实习生处理数据，提出交错式思维链策略，强调实用性和泛化能力。
DPad: 扩散大语言模型的中庸之道，杜克大学陈怡然团队免训推理加速61倍
扩散大语言模型（dLLMs）有全局规划能力，但存在计算冗余。杜克大学陈怡然团队揭示其“草稿纸机制”，提出免训练方法DPad，结合现有技术，能在几乎无损精度下实现高达61.4倍推理加速。