「小参数模型」共找到 8194 篇相关文章
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
LeCun的世界模型单GPU就能跑了
LeCun世界模型有新进展，开源极简训练方案LeWorldModel，单GPU就能跑，基于JEPA架构，速度快、参数小、控制强且懂物理，完胜此前JEPA方法，训练更简单。
碾压DeepSeek V3！开源AI Agent专属模型，1万亿参数、工具使用能力超强
国内大模型平台月之暗面开源了模型Kimi - K2，这是混合专家模型，总参数1万亿。它针对AI Agent优化，工具使用能力强。测试显示其性能碾压DeepSeek V3等模型，训练流程还有独特技术创新。
语音界Sora！微软刚开源新模型，一次生成90分钟语音、3200倍压缩率
今天凌晨微软研究院开源创新音频模型VibeVoice - 1.5B，有诸多技术突破，如可合成90分钟语音、支持4名发言人、3200倍音频压缩等，还首创双tokenizer协同架构。未来微软还会开源更大参数模型。
腾讯纯文本LLM训视觉encoder，拿捏图表长视频，达到开源小模型SOTA！
腾讯开源Penguin - VL，直接用纯文本LLM训视觉编码器，跳出传统多模态拼接套路。在2B/8B紧凑参数规模的复杂任务中竞争力强，训练分三阶段，相关代码、模型等已开放。
具身智能一步踏入Scaling Law！10B+基础模型，27万小时真实数据
AI机器人创业公司Generalist推出新型具身基础模型GEN-0，参数量10B+，专为多模态训练构建。该模型展现强大Scaling Law，能力可扩展，有和谐推理等特性，在多方面有突破，成果备受赞誉。
Jeff Dean最新访谈：基础模型越来越强，小团队如何与谷歌等巨头竞争？
Jeff Dean 在 Y Combinator 活动中与 Diana Hu 对谈，探讨 AI 创业者面临的问题。他指出推理成新瓶颈，预计有更多推理硬件；Agent 执行复杂任务进步快；小团队可找 1%成功率问题；还提及稀缺能力及创业建议。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
上交大 × 华为小艺推出LoPA：7B扩散语言模型单样例1000+ tokens/s！
上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA，配合自研的LoPA - Dist分布式推理系统，显著提升扩散大语言模型（dLLMs）的推理并行度和吞吐量，将推理效率推向新高度。
腾讯混元团队最新研究：让 AI 从「固定模型」走向「实时适配系统」
腾讯混元团队提出论文《HY-WU (Part I)》，尝试让模型在推理阶段根据输入实时动态生成适合任务的参数，而非依赖固定参数。通过多类实验验证，这种方式在图像编辑等任务中有明显优势，还降低了训练复杂度。