「多芯片并行」共找到 4746 篇相关文章
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
营收67亿、净利8.7亿，这家上海芯片公司再冲刺港股
4月12日，晶晨半导体向港交所主板重新递交H股上市申请，这是其第二次冲击港股。该公司有“硅谷基因、国内运营、全球销售”独特身份，产品覆盖多领域，业绩创新高，但也有客户集中、存货激增等风险。
从宁波到登陆港交所，“边缘AI芯片第一股”的突围之路
2月10日，爱芯元智登陆港交所，被誉为“中国边缘AI芯片第一股”。它以“混合精度NPU”与“AI - ISP”为核心技术，构建产品矩阵。营收增长强劲，客户基础拓宽，应用领域广泛，在行业中排名靠前，但也面临挑战。
GLM-5正式发布，744B参数，对标Claude
GLM-5正式发布，对标Claude，参数从355B扩至744B，预训练数据增加。采用GlmMoeDsa架构，部署成本降低。数据表现佳，在多测试中成绩亮眼，还能直输Office文档，部署支持多框架和国产芯片，早期反馈积极。
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
英伟达最新芯片B30A曝光
最新消息，英伟达正开发代号B30A的AI芯片，性能超H20，基于Blackwell架构，单芯片配置，原始算力或为B300 GPU双芯片一半，下月交付测试。此外还将开发RTX6000D用于AI推理，9月小批量交付。
破立之间：智驾芯片博弈的“新赛道”
全球汽车产业向智能化转型，智驾芯片成产业链核心。当前产业面临多重困境，国际巨头垄断高端市场，行业陷入“算力堆砌”。SDSoW技术是破局之道，有三大特征，能实现性能、能效等多方面提升。
单Agent时代结束，AI们开始组团上班
月之暗面发布并开源K2.6，重点升级代码能力与多Agent协作的“Agent集群”能力。K2.6在Artificial Analysis上取得全球开源第一，实测能并行交付多格式成果，还展现出强大的全栈应用开发能力。
DeepSeek倒逼vLLM升级！芯片内卷、MoE横扫千模，vLLM核心维护者独家回应：如何凭PyTorch坐稳推理“铁王座”
本文介绍了vLLM的发展，自开源后成科技公司首选推理引擎。因DeepSeek发布，团队转向其模型特性优化；还参与各芯片支持工作。vLLM靠PyTorch支持多硬件，同时拓展到多模态推理，面临竞争仍保持优势。
曾经的“芯片之王”，如今在哪里？
文章探讨曾经芯片霸主Intel现状，分析其面临困境。虽有技术能力，但在财务、文化、客户关系等方面存在问题，还错失移动芯片代工与AI芯片发展机会。美国政府对其股权投资，引发市场机制与战略考量的讨论。