「小模型性能」共找到 8692 篇相关文章
Qwen3家族训练秘籍公开：思考/非思考融进一个模型，大模型蒸馏带动小模型
Qwen3技术报告揭晓8款模型关键技术，采用双模式架构，训练和微调分段进行，还“大带小”蒸馏数据。其融合思考与非思考模式，训练分多阶段，Qwen Chat还全量上线深度研究功能。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
字节最新大模型秘籍：只挑能有推理潜力的数据训练！1.3B模型无需标签自动挑选
字节Seed团队发布AttentionInfluence成果，用1.3B模型给7B模型选数据，无需训练和标签。通过比较基础与弱化模型损失差异评估数据影响，在多基准测试提升模型性能，还能结合分类器全面提升表现。
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
北大字节开源首个时空推理视频模型！思考过程全透明，性能超越GPT-4o
北大和字节联合团队推出开源模型Open-o3 Video，将显式时空证据嵌入视频推理全过程，采用non-agent架构，性能超越GPT - 4o等闭源模型。该模型构建了STGR语料体系，采用双阶段训练，实验表现优秀。
大模型年中报告：Anthropic 市场份额超 OpenAI，开源模型企业采用率下降
本文基于年中报告指出，当前模型API支出翻倍，企业重心转向模型推理。Anthropic市场份额超OpenAI，开源模型企业采用率下降。代码生成成热门场景，企业换模型重性能，AI支出从训练转推理。
Nature报道：谷歌新模型1秒读懂DNA变异！首次统一基因组全任务，性能碾压现有模型
谷歌DeepMind团队推出生物模型AlphaGenome，能从1兆碱基DNA序列中预测数千种功能基因组特征，评估变异效应。它统一多任务，性能超现有模型，是生物领域里程碑，将助力理解疾病。
小模型大作为！微博的VibeThinker-1.5B超越DeepSeek R1等头部大模型
近年来，“参数越大，能力越强”成行业共识，但带来成本高和资源集中问题。微博AI团队开发的VibeThinker - 1.5B用1.5亿参数和低训练成本，在多项测试中超越头部大模型，还提出SSP框架和MGPO算法。
蚂蚁抛弃向量推荐！用8B小模型构建「用户“话”像」，实现跨模型通用并拿下SOTA
2026年AI开发者关注爆款大模型应用，个性化是关键。蚂蚁集团和东北大学团队推出AlignXplore+，实现文本化用户建模新范式，有全域通用、极致迁移、实战适配特性，小参数超越基线，未来将继续探索。
The Batch: 929 | Qwen3.5 超越更大模型，领跑视觉基准测试
阿里巴巴发布 Qwen3.5 系列，含 8 个开源权重的视觉 - 语言模型。其小模型表现超大体量 OpenAI 开源权重模型，在视觉任务中整体出色，部分在语言任务也有竞争力。虽团队有人员离职，但阿里承诺加大 AI 投入。