搜索：大模型架构图

「大模型架构图」共找到 9832 篇相关文章

刚刚，DeepSeek首曝V3降成本秘诀！软硬协同突破Scaling天花板

DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。

文章介绍针对CFD领域的综合LLM评测基准CFDLLMBench，构建三层递进挑战体系。实验揭示主流LLM在‘知道’与‘做到’间有差距，多智能体框架可提升成功率，代码与数据集已开源。

今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。

滑铁卢大学与快手可灵团队提出 UniVideo，是支持视频理解、生成与编辑的多模态模型。它采用双流架构，结合 MLLM 与 MM - DiT 能力，统一 10 个多模态任务，在多项基准超现有方法，代码已开源。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

现有医学多模态大模型在分割生物医学图像时存在瓶颈，浙大蔡钰祥教授、上海AI Lab江彦开等人提出IBISAgent框架，将分割定义为多步视觉决策过程，实验显示其在多数据集上大幅领先对比方法。

谷歌发布首个原生全模态 Embedding 模型 Gemini Embedding 2，将文本、图、音视频及 PDF 融于统一向量空间，实现跨模态检索，降低架构成本，赋予 AI 连贯「记忆」，是重塑 AI 基建的里程碑。

过去一年大晓机器人在具身智能行业成果显著，首创研发范式和数据采集方案，推出世界模型并实现端侧部署，其行业方案进入真实场景。它从具身第一性原理出发，让信息低成本入模转化为生产力。

随着AI发展，架构从单体到分布式演进，消息中间件成关键。Pulsar以存算分离等特性价值凸显，在多模态训练、模型训练、智能体等AI场景有独特优势，如处理超大消息、实现断点续训等。

元象作为AI与3D技术服务公司，此次开源XVERSE-Ent系列中英双语大模型。它采用MoE热启动技术与三阶段训练策略，解决泛娱乐场景痛点，适配多元语境，有高部署性价比，为行业提供泛娱乐AI解决方案。