「Deepseek架构」共找到 2420 篇相关文章
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录：4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录，详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程，公开4×B300 GPU实测吞吐数据，附复现代码与步骤
DeepSeek一句话让国产芯片集体暴涨！背后的UE8M0 FP8到底是个啥
DeepSeek V3.1发布后，官方留言提及新架构和下一代国产芯片，引发AI圈轰动，国产芯片企业股价上涨。文章介绍了UE8M0 FP8概念，分析其适配国产芯片原因，还猜测适配的芯片厂商，指出代表国产AI走向软硬协同。
DeepSeek-V3-0526 闪现后秒删！
Unsloth文档页面惊现DeepSeek新模型DeepSeek-V3-0526后秒删。该模型性能佳，团队还准备了技术描述。Daniel Han预测其可能端午节前发布，社区对此反应热烈，大家期待DeepSeek下一步动作。
LangChain官方实测：多智能体架构怎么选？
构建AI Agent时，单智能体应对复杂场景易“变笨”且难维护。LangChain官方评测主流多智能体架构，在复杂零售场景实验，对比单智能体、Swarm、Supervisor架构的性能、成本，还给出优化Supervisor架构的方法。
高通Nuvia架构介绍
本文详细介绍高通Nuvia架构。Nuvia由经验丰富芯片设计师创立，后被高通收购，旨在强化自研技术、拓展市场。Oryon CPU架构是其成果，虽面临法律争议，但设计独特，多方面表现出色，还具备安全功能和较高性能。
罗福莉剧透小米MiMo v3架构：模型还没影，论文全说了
小米罗福莉提前剧透MiMo v3核心新架构HySparse2，该架构针对Agent多轮任务中长上下文输入处理成本高的痛点优化，相关论文已公开，模型尚未正式发布，文中披露了架构设计与实验效果数据。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
不跟英伟达走老路，这家GPU公司的技术架构藏着哪些关键解？
在国产GPU上市黄金窗口期，天数智芯上市后首场发布会引发广泛讨论。其公布架构路线图，2027年前追赶英伟达，之后转向创新架构设计。还提出回归计算本质、提供高质量算力两条架构判断，并展示边端算力产品及应用。
Agent架构搭建 ≠ 堆Skills
现在很多Agent架构以大量Skills为基础，但这种做法大概率会翻车。Skills机制让模型自行判断是否使用及何时使用技能，其判断不可靠，随着技能数量增多，系统可靠性变差，设计上需平衡灵活性与可控性。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。