「MoS混合存储」共找到 431 篇相关文章
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。
内存一年疯涨170%，云账单里的“隐性成本”该算清了
2025年下半年存储价格成焦点，DRAM合同价同比涨幅达171.8%，致企业IT采购成本上升。华为云更新Flexus云服务器系列，基于柔性算力技术，打破CPU与内存固定绑定，减少浪费，还引入应用级加速，提升性能。
Strix AI驱动的漏洞动态验证能力分析
传统SAST工具只能发现‘可能有问题的代码’，无法确认漏洞是否可被利用，导致高误报率。Strix采用‘静态分析 + 动态验证’的混合模式，先定位可疑点，再对漏洞进行真实攻击验证，显著降低误报率。
重生之在《我的世界》做山姆·奥特曼：网友在线手搓ChatGPT
一老哥在《我的世界》上手搓出有500万个参数的ChatGPT，经英语对话训练，能在像素世界小电脑上对话，用红石电路和存储单元搭建，未用指令集，网友还在游戏里开发出诸多东西。
LLM会梦到AI智能体吗？不，是睡着了也要加班
新智元报道，Bilt部署数百万智能体，让AI在“睡眠”中整理记忆，评估互动，决定信息存储位置。AI记忆与人脑差距大，Bilt和Letta实验展现“主动智能”雏形，提高模型表现。行业也在突围AI记忆缺陷问题。
Qwen3-Next：迈向更极致的训练推理性价比
文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。
专为“超大模型而生”，新一代训练引擎 XTuner V1 开源！
9月8日，上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快，尤其在超大规模稀疏混合专家（MoE）模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。