「架构参数」共找到 2424 篇相关文章
英伟达开源9B参数小模型，比Qwen3快6倍
英伟达推出新型小型语言模型Nemotron Nano v2，在复杂推理基准测试上准确率与Qwen3 - 8B相当或更高，速度快6倍。它兼顾推理与非推理任务，支持“思考”预算控制，还开源了创建模型的绝大部分数据。
2.4万亿参数原生全模态，文心5.0一手实测来了
文心5.0正式发布，主打原生全模态，支持全模态输入和输出。官方测试显示其多维度表现突出，在LMArena文本排行榜并列全球第二。实测其理解精细、能捕捉细节，技术上采用自回归统一结构和超大规模混合专家架构。
彻底告别VE与VAE！商汤硬核重构多模态：砍掉所有中间编码器
商汤科技联合南洋理工大学发布NEO - unify，这是“原生、统一、端到端”多模态模型架构，砍掉VE和VAE，用混合变换器架构打通视觉与语言能力，提升数据与算力利用效率，为跨模态智能系统奠基。
梁文锋署名新论文，DeepSeek V4架构首曝？直击Transformer致命缺陷
新智元报道，梁文锋署名的DeepSeek新论文提出全新Engram模块，解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴，通过Engram模块实现近似O(1)的确定性知识查找，或成稀疏LLM主流路线，下一代V4可能集成该方法。
Anthropic训了一个10万亿参数的模型，然后说：太危险了，不卖
Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。
从需求到研发全自动：如何基于Multi-Agent架构打造AI前端工程师
本文介绍蚂蚁消金前端团队打造的Multi - Agent智能体平台“天工万象”。阐述其技术实践，对比多Agent与统一型Agent、ReAct范式与固定工作流优劣，还介绍专业智能体建设，分享开发中的思考与经验。
何恺明首个语言模型：105M参数，不走GPT自回归老路
何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。
Ray异构融合底座重构数据管道：架构演进与万卡落地实践
文章指出大模型发展下，传统大数据引擎在多模态数据处理局限性凸显。腾讯基于Ray构建新一代数据管道，介绍了云原生调度与计算范式融合架构，详述容错、资源利用等方面优化实践，展示了重构收益。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
加一个JVM参数，让系统可用率从95%提高到99.995%
文章针对高并发系统不稳定问题，定位是系统内存索引切换时 GC 压力大所致。围绕让索引尽早晋升、直接分配到老年代等思路探索优化，经多番尝试，最终实现索引无感切换，使系统可用率达 99.995%。