「推理芯片」共找到 2578 篇相关文章
R-HORIZON：长程推理时代来临，复旦NLP&美团LongCat重磅发布LRMs能力边界探测新范式
复旦大学与美团LongCat Team联合推出R - HORIZON，它是首个系统性评估与增强LRMs长链推理能力的方法与基准。提出Query Composition方法构建评测基准和训练数据，评测发现主流模型长链推理性能断崖式下降，还分析出三大瓶颈，训练后模型性能双重提升。
供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意
WAIC期间，商汤大装置举办AI基础设施论坛，展示国产算力成绩单，将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论，提升芯片利用率，还在多领域合作，虽红利或收窄，但方法论有长期价值。
让AI自己设计芯片！中国科学院发布「启蒙」，芯片全流程自动设计
近日，中科院计算所联合软件所推出「启蒙」系统，基于AI实现处理器芯片软硬件全流程自动设计，达到或部分超越人类专家水平。该系统在多方面表现出色，如设计的CPU达ARM Cortex A53性能等。
Mistral的首个强推理模型：拥抱开源，推理速度快10倍
本周二，欧洲人工智能公司 Mistral AI 发布全新大语言模型 Magistral 系列，有企业版 Magistral Medium 和 24B 参数开源版 Magistral Small。它推理强、多语言表现好，速度比竞品快 10 倍，应用于主流云平台，成本有竞争力。
三问脑机接口芯片
《中国电子报》围绕脑机接口所需芯片类型、注重的能力及迭代方向三问脑机芯片。今年国内外企业、高校进展不断，如Neuralink、海南大学等。还提及脑机芯片需跨学科协同及人才培养。
56亿颗芯片撑起230亿市值！北交所芯片第一股今日上市
8月12日杰理科技于北交所上市，成“芯片设计第一股”。其以蓝牙音频为基本盘，产品进众多品牌供应链。2023 - 2025年营收有波动，业绩在2025年回落。募资投向三大项目，后续表现待察。
推理时扰动高熵词，增强LLM性能
香港科技大学（广州）研究团队发现LLM推理时，一小部分高熵词显著影响输出正确性。基于此提出MTI方法，含Selective CFG intervention与Lightweight negative - prompt guidance，无需额外训练，能提升模型推理能力。
芯片竞争已经是一场华人内战
当下“全球芯片五巨头”皆由华人掌管，且全球前十大IC设计企业有8家与华人相关，“华人内战”格局明显。随着华人和中国企业在芯片领域积累，专业人才优势向AI产业蔓延。但各企业华人领袖会为自身利益做选择，“华人内战”或持续。
盐城芯片大佬，静待两个千亿IPO
芯片大佬朱一明即将迎来高光时刻，1月13日其控制的兆易创新将登陆港交所，长鑫也递交了招股书。存储芯片行业需求旺盛、价格上涨，朱一明想把兆易创新做成中国的“三星半导体”。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。