「4B参数」共找到 2488 篇相关文章
OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE
OpenAI悄悄开源新模型，0.4B参数且99.9%权重为零，是Circuit Sparsity技术的开源实现。该技术通过约束模型内部连接稀疏性，解决传统稠密Transformer黑箱问题，或让MoE模型走上末路，但目前算力成本极高。
AI Coding新王登场！MiniMax M2.1拿下多语言编程SOTA
MiniMax发布旗舰级Coding & Agent模型M2.1，在Multi - SWE - bench榜单中以10B激活参数拿下49.4%成绩，超越竞品成SOTA。它解决模型‘偏科’问题，适配开发工具链，实测在多语言编程任务中表现出色。
最强开源Agent！Kimi K2接入Claude Code，爽翻～【喂饭级教程+实测】
上周五Kimi开源最新旗舰模型K2，它是1000B参数MoE大模型，专为Agent场景优化，API已上线且兼容多API。文章给出Kimi - K2接入Claude Code的喂饭级教程及实测，实测显示组合表现有亮点也有不足。
小美Agent：当龙猫遇到美团外卖的灾难现场
作者体验美团AI助手“小美”后吐槽不断。美团称其用有5600亿参数的龙猫大模型，能力接近GPT - 4o，但它理解需求差、操作订单无效、定位混乱。美团做AI是为跟风，未解决用户真需求，是资源浪费。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。
美团提出多模态推理新范式：RL+SFT非传统顺序组合突破传统训练瓶颈
美团研究者提出Metis - RISE框架，将RL激励和SFT增强以非传统顺序结合提升多模态大语言模型推理能力。先RL激发潜能，再SFT补齐短板，训练的两模型在OpenCompass榜单成绩优异。
阿里Qwen3一口气开源多个向量&排序模型，冲！
今天阿里正式开源Qwen3-Embedding和Qwen3-Reranker系列，为多语言文本嵌入和相关性排序树立新标杆。提供0.6B/4B/8B三种版本，支持119种语言，在多个数据集达先进性能，赋能多种应用场景。
SOTA级的Embedding模型！F2LLM模型、数据、代码全部开源，人人可用
Embedding 模型应用广泛，但主流模型训练困难。蚂蚁集团与上海交大推出 F2LLM，含 0.6B、1.7B、4B 系列模型，仅用六百万数据微调基座，在 MTEB 榜单领先且完全开源。介绍了其数据、训练、测评等情况。
Claude Mythos核心架构开源！22岁天才一人破解，融合DeepSeek思路
22岁初创CEO Kye Gomez以第一性原理推导出Claude Mythos核心架构，开源OpenMythos项目。该架构采用循环深度Transformer，不堆参数，循环思考16次推理，结合MoE层，参数效率翻倍。
[Triton编程][基础] Triton Fused Softmax Kernel详解: 从Python源码到PTX分析
文章详细介绍Triton Fused Softmax Kernel实现，从Naive Softmax到Triton实现，分析访存量、row索引计算、num_stages作用等，还修复官方年久失修代码，性能测试带宽吞吐提升约4倍。