「万亿参数模型」共找到 7912 篇相关文章
DeepSeek R2没来，Kimi K2来了，VLLM，SGLang首发支持
Moonshot AI发布Kimi K2大语言模型，采用混合专家架构，总参数量达1万亿。其有多项技术创新，在多个基准测试表现突出。发布两版本，用修改版MIT协议开源，vLLM、SGlang首发支持，已上线多服务。
刚刚，DeepSeek 突发梁文峰署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在其GitHub官方仓库开源了新论文与模块Engram。该论文提出“查—算分离”机制，通过引入可扩展的查找记忆结构，在等参数、等算力条件下提升模型表现，代码与论文全文均已开源。
清华系团队出手！一张 4090 即可「爆改」，1.3B小钢炮震撼开源
5月11日，清华系团队面壁智能联合多方开源端侧多模态大模型MiniCPM-V 4.6。它参数仅1.3B，性能超阿里、谷歌等同级对手，效率翻倍，还实现两项架构创新，适配主流开源生态，降低开发门槛。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器
人大、斯坦福等机构提出MoCa框架，将单向视觉语言模型转化为双向多模态嵌入模型。它通过持续预训练和异构对比微调，解决传统模型局限，在多模态基准测试中表现优异，尤其小规模模型性能突出。
重生之在《我的世界》做山姆·奥特曼：网友在线手搓ChatGPT
一老哥在《我的世界》上手搓出有500万个参数的ChatGPT，经英语对话训练，能在像素世界小电脑上对话，用红石电路和存储单元搭建，未用指令集，网友还在游戏里开发出诸多东西。
中国团队一夜封神，AI出海「全球第一」！曾靠游戏狂赚10亿美金
在大模型竞争激烈的当下，中国出海团队SeaArt（海艺）用2.5年超越Midjourney等，成全球访问量第一的AI内容创作社区。它打造AI原生内容生态，SeaVerse开启全模态时代，还靠洞察用户、游戏基因等优势制胜。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
别让米其林主厨削土豆！英伟达用「小脑指挥大脑」，重构AGI生产力
英伟达推出8B模型Orchestrator，通过组合工具降本增效。在HLE等测试中超越GPT - 5，成本仅为其30%左右。它还能泛化到未见工具，具有可定制调度能力，标志着复合AI新范式的兴起。
斯坦福×英伟达发布AI推理新范式，刷新了多领域SOTA
斯坦福与英伟达联合发布论文 TTT - Discover，提出新范式，不追求通用，在推理阶段针对特定难题修改模型参数。它战绩辉煌，但成本高、是偏科生且需打分器，其出现是技术与哲学的突破。