「激活参数」共找到 746 篇相关文章
英伟达巧用8B模型秒掉GPT-5，开源了
英伟达携手港大开源Orchestrator-8B小模型，在HLE测试中分数超GPT - 5，成本低且速度快。它靠ToolOrchestra训练法，协调工具解题。此赛道已有多项研究，小模型实用优势明显。
突破类脑模型性能瓶颈：校正频率偏置实现性能与能效双突破｜NeurIPS 2025
香港科技大学（广州）等团队在NeurIPS 2025论文指出，脉冲神经网络（SNN）性能不佳根源是频率偏置，非二进制激活。团队提出Max - Former架构，校正频率偏置，实现性能与能效双突破，卷积架构也适用。
Moonshot AI发布Kimi Linear技术报告，采用混合线形注意力架构
Moonshot AI在Hugging Face发布Kimi Linear技术报告，该48B参数模型采用混合线性注意力架构，称超越传统全注意力机制。官方数据体现其优势，模型已开源，社区反应不一，MiniMax则回归全注意力架构。
你们催更的模型，云栖大会一口气全发了！
云栖大会上新6款模型、发布1个全新品牌，覆盖多场景。如Qwen MAX万亿参数大模型能力登顶国际榜单，Qwen3 - Omni实现全模态不降智等，各模型能力升级显著，现已同步上线。
Meta 演示现场翻车的原因……让人好笑又心疼
Meta Connect大会上Meta Reality Labs演示翻车，原因是语音命令激活多人Meta AI，对开发服务器DDOS攻击，且MPK所有人被路由到该服务器，此外眼镜显示屏还有意外bug，这次翻车为行业提供了经验。
Qwen3小升级即SOTA，开源大模型王座快变中国内部赛了
开源大模型进入中国时间，Kimi K2风头正盛时，Qwen3迎来升级，235B总参数量仅为Kimi K2四分之一，基准测试性能却超它。Qwen官方不再用混合思维模式，新模型仅支持非思考模式，此次是小更新，大招在后头。
Apple | 开源视觉语言模型：FastVLM，可手机运行，首token速度提升 85 倍
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它解决体积和速度问题，首 token 输出速度提升 85 倍，引入 FastViTHD 编码器，适配 iOS/Mac 生态，有不同参数量级版本。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
16个月后Meta杀回开源，小扎力挺蒸馏
Meta发布新开放AI模型Muse Glimmer底层参数，未来几周将开放Muse Spark 1.2模型权重。扎克伯格力挺开源，称要为数十亿人提供免费强大AI，还为模型蒸馏辩护。Meta此举有现实压力，也想创造算力需求。
一年从3B卷到0.xB：MonkeyOCRv2用0.7B拿下17语种文档解析开源第一
文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。