「AI推理芯片」共找到 10965 篇相关文章
8 位 AI Infra 高管复盘 WAIC:当堆砌「暴力美学」触顶,AI Infra 如何求变?
雷峰网与8位参展AI Infra公司的决策者交流,捕捉行业新方向和共识。今年行业关注重心从拼规模转向比效率,Token推理成算力消耗主体,AI工厂和Token工厂共生,未来竞争聚焦效率,不同玩家各有优劣。
“技术迭代速度是唯一护城河!”李彦宏把百度 AI 秀了个遍,还称芯片拿大部分钱的 AI 生态不健康
李彦宏在百度世界大会指出,AI产业结构正从‘正金字塔’向‘倒金字塔’转变,健康生态中应用应创造最大价值。百度展示多项成果,如数字人、AI搜索等,还发布文心大模型5.0和百度伐谋。
先进封装成为AI芯片胜负手
2026年先进封装企业在多方面有新进展,其对芯片性能等指标影响大,全产业链都在加码布局。委外封测厂、代工厂看好其营收贡献,市场动能明确,各环节技术创新也多点突破。
更先进的AI,就应该发生在“今天” | 甲子光年
AI应用离消费者体验还有距离,行业分歧加剧。9月22日,联发科发布天玑9500芯片,把AI嵌入端侧设备,在高频场景优化体验,还在芯片设计、硬件创新上突破瓶颈,带动伙伴发展,推动AI普及。
Sebastian Raschka 新书《从头开始推理》抢先看,揭秘推理模型基础
著名AI技术博主Sebastian Raschka新书《Reasoning From Scratch》第一章介绍LLM中推理含义、训练阶段、模式匹配与逻辑推理区别,还讲述提升推理能力方法及从头构建推理模型的重要性等内容。
“天下苦CUDA久矣!”KernelCAT率先掀桌,实现国产芯片无痛适配
中国AI产业与英伟达GPU及CUDA生态深度依赖,国产AI根基脆弱。KernelCAT作为AI Agent,能开发高性能算子,在昇腾芯片调优测试中表现出色,还能让国产模型在昇腾芯片上高效部署,实现35倍加速。
全球首款120通道PCIe5交换芯片面世,为国产AI基础设施赋能
随着AI算力需求增长,芯动科技推出全球领先的104/120通道PCIe Gen5交换芯片。该芯片功能及性能全面对标国际行业龙头,可适配全场景应用,其落地标志国产高端PCIe交换芯片实现关键跨越。
奥特曼:ChatGPT只是意外,全能AI智能体才是真爱!Karpathy:7年前就想到了
当全球为ChatGPT喝彩,OpenAI的MathGen团队秘密锻造AI「推理」能力,打造全能AI智能体。OpenAI坚信推理能力可复制到各领域,未来AI智能体将颠覆一切,如今围绕人才的战争已白热化。
估值7.5亿美元初创意欲「撬动」8000亿半导体市场?前谷歌AlphaChip主导者创业研发「AI芯片设计自动化」
由前谷歌研究员创办的 Ricursive Intelligence 公司,尝试开发自动设计芯片的软件。其核心技术将递归智能用于芯片设计,分三阶段改进,已获 3500 万美元融资,估值 7.5 亿美元,有望变革半导体行业。
入局AI Infra:程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。