「AI推理加速」共找到 11290 篇相关文章
8 位 AI Infra 高管复盘 WAIC：当堆砌「暴力美学」触顶，AI Infra 如何求变？
雷峰网与8位参展AI Infra公司的决策者交流，捕捉行业新方向和共识。今年行业关注重心从拼规模转向比效率，Token推理成算力消耗主体，AI工厂和Token工厂共生，未来竞争聚焦效率，不同玩家各有优劣。
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
端侧AI加速到来，个人隐私如何保护？
Deepseek推动端侧AI加速落地，苹果、谷歌等企业纷纷布局。不过，端侧AI在发展中面临融合不佳、数据安全等问题。阿里研究院傅宏宇提出保障数据安全的建议，监管层也出台相关法规。
AI驱动增长，国产半导体设备加速突围
2025年全球半导体设备市场在AI拉动下增长，销售额预计达1330亿美元。中国市场领跑，国产企业加速突围。AI算力、存储芯片需求及后道封装测试成增长动力，本土企业在多领域取得进展，但也面临挑战。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
Sebastian Raschka 新书《从头开始推理》抢先看，揭秘推理模型基础
著名AI技术博主Sebastian Raschka新书《Reasoning From Scratch》第一章介绍LLM中推理含义、训练阶段、模式匹配与逻辑推理区别，还讲述提升推理能力方法及从头构建推理模型的重要性等内容。
AMD发布旗舰AI芯片，称性能比肩英伟达
当地时间6月12日，AMD CEO苏姿丰在大会展示多款AI新品，将新AI芯片与英伟达同类产品对比，称性能比肩且性价比高。还展示了新软件栈、介绍下一代AI机架产品，预计推理成未来AI发展主驱动力。
奥特曼：ChatGPT只是意外，全能AI智能体才是真爱！Karpathy：7年前就想到了
当全球为ChatGPT喝彩，OpenAI的MathGen团队秘密锻造AI「推理」能力，打造全能AI智能体。OpenAI坚信推理能力可复制到各领域，未来AI智能体将颠覆一切，如今围绕人才的战争已白热化。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
DeepSeek被曝自研AI推理芯片
据路透社报道，DeepSeek 正开发自研 AI 推理芯片，欲降低对英伟达和国产芯片依赖。此为重大战略转变，影响英伟达股价。虽有降本等好处，但面临技术、制造、生态等挑战。