「推理芯片」共找到 2578 篇相关文章
创业7年干出一个全球第一,这家深圳芯片公司冲刺港股IPO
曦华科技冲刺港股IPO,其2024年scaler芯片出货量全球第二,ASIC架构scaler产品市场份额达55%排第一。不过,公司仍亏损,且面临激烈竞争。它靠产品创新和高研发投入提升估值,后续有应对竞争的规划。
SGLang 推理引擎的技术要点与部署实践|AICon 北京站前瞻
SGLang 是开源推理引擎,截至 2025 年 6 月,在 GitHub 获近 15K Stars,月均下载超 10 万次,被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升,他分享技术、挑战等,6 月 27 - 28 日他将在 AICon 演讲。
老黄开年演讲「含华量」爆表!直接拿DeepSeek、Kimi验货下一代芯片
2026 CES科技盛宴上,老黄PPT燃爆AI圈,DeepSeek与Kimi位列C位。老黄用它们验货下一代芯片,实测显示性能提升显著。中国开源AI表现惊艳,在国际评测中成绩优异,正推动AI应用全面爆发。
M系列芯片一号人物准备离开,苹果高管流失正在失控
近期苹果高管变动不断,12月1日负责机器学习与AI战略的高级副总裁宣布退休,4日设计总监离职。此外,‘苹果芯片’之父也考虑离开,还有多位高管有离任计划。苹果发展策略保守,留不住人才,库克时代或近尾声。
开源DeepSeek R1增强版:推理效率快200%,创新AoE架构
德国TNG公司开源DeepSeek R1增强版DeepSeek - TNG - R1T2 - Chimera,基于三大模型混合开发,采用创新AoE架构,推理效率比R1 - 0528快200%,成本大减,在主流测试中性能更好。还介绍了AoE架构构建子模型方法。
不止于快!美团新推理模型正在重新定义「实用主义AI」
美团发布并开源推理模型 LongCat-Flash-Thinking,它在权威测评表现突出。该模型有多项创新,能更快、更能干、更可靠。其将技术实力转化为业务服务能力,实战测试表现佳,体现美团实用主义 AI 路径。
告别无效计算!新TTS框架拯救19%被埋没答案,推理准确率飙升
现有TTS方法存在路径同质化和中间结果利用不足问题。华为诺亚方舟实验室等机构提出SRCA框架,含检查点注入、答案聚类搜索和检查点候选增强组件,实验显示能提升推理准确性、效率,降低成本。
人大高瓴赵鑫团队新作:先拆掉 RLVR,再重建推理模型训练
人大高瓴赵鑫团队围绕RLVR框架做系统实验,完成论文《A3PO: Adaptive Asymmetric Advantage Shaping for Reasoning Models》,提出A3PO方法。该方法将训练重点转向关键决策点,让推理模型学习更可控。
刚刚,OpenAI内部推理模型斩获IOI 2025金牌!所有AI选手中第一
OpenAI内部推理模型获IOI 2025金牌,总排名第6、AI组第1,沿用IMO金牌版本且未专门训练。商业模型在IOI表现不足,Grok 4相对领先。巨头热衷竞赛,源于竞争、技术迭代及多方利益考量。
告别随机性:Thinking Machines Lab如何实现了LLM推理的完全确定性?
文章指出LLM推理非确定性根源并非GPU并发和浮点非结合性,而是批大小变化致核函数非不变性。作者提出实现批不变操作的策略,实验验证有效,还阐述其对训练、系统可靠性等方面的意义。