「高熵节点」共找到 103 篇相关文章
新闻资讯7
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
甲子光年
产品应用7
让AI自动生成工作流
不会搭建工作流没关系，可让AI自动生成。如用Claude帮搭建n8n工作流，它生成JSON文件，复制粘贴到n8n配置节点即可用。介绍n8n特点，还讲了Claude自动生成n8n工作流的操作步骤。
newtype AI
开源动态8
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。
GiantPandaLLM