搜索：国产推理芯片

「国产推理芯片」共找到 2874 篇相关文章

盐城芯片大佬，静待两个千亿IPO

芯片大佬朱一明即将迎来高光时刻，1月13日其控制的兆易创新将登陆港交所，长鑫也递交了招股书。存储芯片行业需求旺盛、价格上涨，朱一明想把兆易创新做成中国的“三星半导体”。

华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。

文章讲述澜起科技发展历程。它从电视机顶盒芯片转型内存接口、高速互连芯片，虽历经政策冲击、做空危机、供应链压力与客户竞争等挑战，但凭借技术实力和研发投入，在行业中站稳脚跟，未来有望受益于AI算力需求升级。

面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。

近日英特尔加入马斯克的Terafab AI芯片项目。英特尔曾在移动、AI时代落后，现靠18A制程重站AI芯片牌桌；马斯克AI版图扩张，Terafab计划需可靠伙伴，二者合作愿景大但风险多。

“国产GPU第一股”争夺正酣，继摩尔线程后，沐曦股份科创板IPO过会，估值达210亿。其创始人陈维良背景深厚，产品量产快。私募大佬葛卫东多次下注，收益接近翻倍。但国产GPU研发风险高，谁能抢占先机待察。

文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。

当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。

OpenAI与博通官宣合作，将共同部署10GW规模AI加速器。双方头头齐聚爆料合作契机与细节，OpenAI总裁称已用AI优化芯片设计，比人类工程师更快，且合作已持续约18个月。

RSI成人工智能前沿方向，芯片设计因有确定性验证体系，成其率先落地赛道。NovaSilicon完成融资，探索出芯片设计智能系统，发表论文介绍构建运行方法，将重塑行业。