「推理芯片」共找到 2635 篇相关文章

开源动态8

Qwen3-ASR的MLX原生实现:让SOTA语音识别跑满苹果芯片

Qwen3 - ASR是强大开源语音识别模型,但官方实现无法充分利用苹果芯片GPU能力。开发者完成MLX重写,让其能在苹果芯片上原生运行,实测性能佳,还有诸多核心功能及安装使用示例。

AI工程化
新闻资讯7

天天追货源,月月看涨价——存储芯片从业者的困局如何解?

2026年上半年,由AI算力需求引发存储芯片“超级周期”,全球供需失衡,价格飞涨。“芯片通胀”从产业链上游传导至消费者。同时,中国存储力量强势崛起,还盘点了“第八届硬核芯”存储赛道明星产品。

芯师爷
算法论文8

0.016%参数撬动18%性能:关键表征微调破解LLM推理瓶颈

大语言模型在推理任务依赖思维链技术,传统PEFT方法需修改大量参数,新兴ReFT虽只需调整少量参数,但存在不足。本文提出CRFT,仅用0.016%参数量就提升性能,为轻量化推理增强开辟新路径。

深度学习自然语言处理
新闻资讯7

Mira Murati 创业公司首发长文,尝试解决 LLM 推理的不确定性难题

OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》,指出大语言模型推理难获可复现结果,深入探究其不确定性根源,提出使核函数具备批次不变性的方法并给出实现与实验。

Founder Park
新闻资讯7

突发!美国解除封锁,英伟达可向中国销售H20 AI芯片

CNBC消息,美国政府向英伟达保证授予销售许可,将恢复对中国销售H20 AI芯片。此前该芯片受出口管制。黄仁勋加大游说,与特朗普会面后美态度转变,他还宣布新GPU,英伟达财报表现强劲。

AIGC开放社区
开源动态8

超越GPT-5.2和Gemini-3-Pro!商汤多模态搜索、推理模型开源

商汤开源多模态自主推理模型SenseNova - MARS(8B/32B双版本),它通过强化学习整合工具,在多模态搜索与推理测试中超越Gemini - 3 - Pro与GPT - 5.2,还采用创新算法稳定训练,构建新基准评测。

AIGC开放社区
新闻资讯7

AI PC进入爆发期,国产芯片能否在其中分得一杯羹?

AI从云端走向端侧,AI PC迎来爆发期。Arm虽有结构性优势,但在PC端进展慢。此芯科技推出此芯P1,联合多方打造开放平台,推动标准化和生态建设,产品也不限于AI PC,未来有望为国产芯片争得话语权。

芯师爷
新闻资讯7

太初元碁乔梁:AI算法已经跑到单芯片极限|MEET2026

在量子位MEET2026智能未来大会上,太初元碁乔梁表示,当下AI算力需求指数级增长,超智融合成行业共识。单颗芯片性能成瓶颈,太初元碁设计PC link实现芯片互联,还分享了HPC+AI在多领域的落地实践。

量子位
新闻资讯7

刚刚,GPT-5.4核心内幕炸裂剧透!或拥有永久记忆,极限推理狂飙

多方消息显示GPT - 5.4已开启测试,多次意外曝光。它或有极限推理模式、翻倍上下文、长任务表现佳,甚至可能拥有永久记忆。OpenAI因对手紧逼,模型更新接近月更。

新智元
算法论文8

五倍推理加速,激发自回归潜能,苹果新工作让LLM预测未来

近年来自回归训练方法成语言模型主流范式,但推理阶段计算开销大。苹果研究人员开发框架,让预训练自回归大模型多 token 预测,代码和数学任务推理加速达 5.35 倍,一般任务约 2.5 倍。

机器之心