「参数共享」共找到 827 篇相关文章
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
CVPR 2026 | 1B模型也能当多镜头导演？大连理工&快手可灵开源力作MultiShotMaster
大连理工与快手可灵团队推出MultiShotMaster框架，能在1B左右小参数量级模型实现导演级镜头调度和连贯叙事，支持多图参考、主体运动控制。论文录用至CVPR 2026，代码已开源，还获AAAI CVM Workshop竞赛冠军。
Qwen3.8-27B 登顶全球开源榜第一，曾经的「源神」又回来了！
8月17日，阿里发布的Qwen3.8 - 27B成Hugging Face热门第一。它以27B参数在部分测试中与前沿闭源模型比肩，可本地运行。不过推理慢、真实任务表现待提升，它让前沿Agent能力下放到个人电脑。
MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070即可实时运行
面壁智能联合多机构发布 MiniCPM-o 4.5 技术报告，公开 Omni-Flow 框架。该模型 9B 参数实现端到端全双工全模态，开放在线 Demo、API 等，最低 12GB 显存 GPU 可运行，在多维度评测表现出色。
美团重磅开源！13.6B通用视频生成大模型，能文生视频、图生视频、还能续写！
AI视频生成竞争激烈，美团团队在GitHub开源通用视频生成模型LongCat-Video，参数量13.6B，能文生视频、图生视频、视频续写，几分钟生成720p、30fps长视频，有核心优势，还介绍了安装部署等内容。
The Batch: 873 | 通过自监督学习实现更好得图像处理
Meta等团队发布DINOv3权重和训练代码，参数规模扩6倍，用更多数据并引入新损失函数。它在图像分割和深度估计表现卓越，解决了自监督训练的视觉transformer的问题，提升全局和局部任务表现。
MiniMax M2 发布即爆，拿下开源模型第一名
10月27日，MiniMax发布新一代文本大模型M2及由其驱动的MiniMax Agent。M2是专家混合模型，参数达230B但激活仅10B。它在开源模型评测中夺冠，能低成本、高速度支撑工作流，开发者评价高。
快手在 AI 上，渐入佳境
文章介绍快手多模态大模型 Keye-VL 1.5，参数 8B 适合中小企业。它侧重短视频场景，视频理解能力强，能与业务结合，提升推荐等场景效率。还详述其架构、预训练、后训练及训练架构优化等技术细节。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。