「混合推理架构」共找到 3648 篇相关文章
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
养虾省91%词元！这家AI记忆公司用1亿个多模态文件验证了！
文章指出AI瓶颈已从模型智能转为记忆架构，长期记忆是AI有状态智能的基础。质变科技推出多模态AI记忆平台MemoryLake，具多种记忆能力和核心技术，降本增效显著，获资本青睐，服务多领域客户。
SpaceX为何官宣收购xAI？8万亿太空炼丹梦，别无脑跟进！
2026 年 2 月 3 日，马斯克宣布 SpaceX 全资收购 xAI。直接原因是 SpaceX 盈利而 xAI 烧钱，合并为解决资金问题；根本原因是 Grok 竞争失利，想借 SpaceX 运载能力打造太空算力形成差异。但太空训练面临散热等难题，推理可行。
AI开始“动手”了，全世界第一个带头的是阿里千问
阿里千问App上线400多项新功能，依托Qwen模型和阿里生态，在全新Agent架构下提升AI能力。它能在购物、旅游、办公等场景帮用户办事，使AI具备现实世界落地能力，推动人机交互跃迁。
Qwen-lmage-Layered：图片分层 指哪改哪
全新图像生成模型Qwen-lmage-Layered采用自研架构，将图片“拆解”成多个图层，各图层可独立操作。其提出新编辑思路，有RGBA - VAE等亮点，支持灵活迭代分解，能实现精准高效的图像编辑。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
社区供稿 | 开源SOTA：阶跃发布端到端语音大模型Step-Audio 2 mini！
阶跃星辰发布最强开源端到端语音大模型 Step - Audio 2 mini，在多个国际基准测试集获 SOTA 成绩。它统一建模语音理解等，率先支持语音原生 Tool Calling 能力，架构创新，案例展示其多方面强大能力。
刚刚，大模型棋王诞生！40轮血战，OpenAI o3豪夺第一，人类大师地位不保？
国际象棋积分赛成果出炉，OpenAI o3以人类等效Elo 1685分夺冠，Grok 4和Gemini 2.5 Pro紧随其后。Kaggle发布国际象棋文本排行榜，评估模型战略推理等能力，还推出相关数据集，虽有局限但意义重大。
AI 的宿命数字
AI在1到50间随机选数时，常选27，还编造推理过程，会根据时间调整算法保证结果为27，也有选42等情况。这或源于人类文化偏见，AI是人类集体记忆镜子，难摆脱宿命。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。