「推理芯片」共找到 2578 篇相关文章
刚刚，Thinking Machines Lab首次发长文，揭开LLM推理不确定性真相
Thinking Machines Lab发长文《克服LLM推理中的不确定性》，指出大语言模型推理不确定性的真正元凶是缺乏批次不变性，还解释核函数计算中数字加法顺序问题，介绍使核具有批次不变性的方法并给出实验结果。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
Qwen3-ASR的MLX原生实现：让SOTA语音识别跑满苹果芯片
Qwen3 - ASR是强大开源语音识别模型，但官方实现无法充分利用苹果芯片GPU能力。开发者完成MLX重写，让其能在苹果芯片上原生运行，实测性能佳，还有诸多核心功能及安装使用示例。
天天追货源，月月看涨价——存储芯片从业者的困局如何解？
2026年上半年，由AI算力需求引发存储芯片“超级周期”，全球供需失衡，价格飞涨。“芯片通胀”从产业链上游传导至消费者。同时，中国存储力量强势崛起，还盘点了“第八届硬核芯”存储赛道明星产品。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
Mira Murati 创业公司首发长文，尝试解决 LLM 推理的不确定性难题
OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》，指出大语言模型推理难获可复现结果，深入探究其不确定性根源，提出使核函数具备批次不变性的方法并给出实现与实验。
突发！美国解除封锁，英伟达可向中国销售H20 AI芯片
CNBC消息，美国政府向英伟达保证授予销售许可，将恢复对中国销售H20 AI芯片。此前该芯片受出口管制。黄仁勋加大游说，与特朗普会面后美态度转变，他还宣布新GPU，英伟达财报表现强劲。
超越GPT-5.2和Gemini-3-Pro！商汤多模态搜索、推理模型开源
商汤开源多模态自主推理模型SenseNova - MARS（8B/32B双版本），它通过强化学习整合工具，在多模态搜索与推理测试中超越Gemini - 3 - Pro与GPT - 5.2，还采用创新算法稳定训练，构建新基准评测。
AI PC进入爆发期，国产芯片能否在其中分得一杯羹？
AI从云端走向端侧，AI PC迎来爆发期。Arm虽有结构性优势，但在PC端进展慢。此芯科技推出此芯P1，联合多方打造开放平台，推动标准化和生态建设，产品也不限于AI PC，未来有望为国产芯片争得话语权。
太初元碁乔梁：AI算法已经跑到单芯片极限｜MEET2026
在量子位MEET2026智能未来大会上，太初元碁乔梁表示，当下AI算力需求指数级增长，超智融合成行业共识。单颗芯片性能成瓶颈，太初元碁设计PC link实现芯片互联，还分享了HPC+AI在多领域的落地实践。