「4B参数」共找到 2559 篇相关文章
极简RL新范式：一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力，开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案，在两主流1.5B模型上刷新SOTA，节省2倍算力，消融实验还揭示部分技巧会致性能退化。
7B小模型超越DeepSeek-R1：模仿人类教师，弱模型也能教出强推理LLM | Transformer作者团队
Transformer作者之一创立的Sakana AI带来新方法，让教师模型像人类教师一样做启发式教学，根据已知解决方案输出解释。用此方法训练的7B小模型在传授推理技能上比671B的DeepSeek - R1更有效。
沉寂一个月，openPangu性能飙升8%！华为1B开源模型来了
华为发布专为昇腾端侧硬件打造的openPangu Embedded - 1B模型，仅10亿参数却性能卓越。它运用多阶段训练和优化，在权威基准表现亮眼，V1.1平均分较上月跃升超8%，还介绍了背后技术。
智谱发布GLM 4.5，不仅开源模型还把训练框架也开源了
智谱AI发布GLM 4.5，不仅开源模型，还开源整套后训练基础设施。模型规格亮眼，性能也超越qwen 235b。其开源的训练框架slime专为强化学习扩展设计，完整工具链支持多种模型。
最强3B「小钢炮」，代码数据全公开！推理随意开关，128k超长上下文
Hugging Face推出30亿参数模型SmolLM3，支持128k长上下文，训练等全链路开放。它在架构、数据混合策略等多方面优化，性能超Llama3.2 - 3B等，还公开双模式指令模型构建方案。
三大核心创新公开，快手开源多模态Keye-VL 1.5拿下视频理解SOTA，8B力压GPT-4o！
快手开源多模态Keye-VL 1.5，为8B视频理解最强模型，公开3大核心创新技术。它靠Slow-Fast视频编码等，在20+基准屠榜。在多类基准测试和内部测评中表现优异，将业务经验沉淀到开源社区。
不只是DeepSeek V4，还有个万亿级大模型，训推全程国产芯片
2026年4月24日，DeepSeek发布新一代模型DeepSeek - V4系列预览版并开源。同日，美团用全国产算力集群训练出万亿参数大模型LongCat - 2.0系列预览版，训推全流程摆脱英伟达，在国产算力支撑万亿级模型研发上取得突破。
刚刚，OpenAI开放GPT-4.1偏好优化DPO，ChatGPT能真正学会你的「品味」了！
OpenAI宣布GPT - 4.1全系列模型支持DPO微调，可让AI通过对比回答学会用户偏好。介绍了DPO原理、适用模型、数据格式、创建任务方法等，还提及开发者反应与技术要点。
微软又上大分！刚刚开源一款 0.5B 轻量级实时 TTS 模型，还能边想边说！
2025 年大家致力于解决 AI「嘴巴」问题，追求实时流式对话。微软刚开源轻量级 TTS 模型 VibeVoice-Realtime - 0.5B，参数虽小但能边输入边朗读，有诸多特点和广泛应用场景。
清华团队：1.5B 模型新基线！用「最笨」的 RL 配方达到顶尖性能
清华团队用两个 1.5B 模型证明，用最基础的 RL 配方可达到小模型数学推理能力 SOTA。单阶段训练加固定超参数实现 SOTA 性能且省一半算力，训练曲线还很平滑。