搜索：推理加速技术

「推理加速技术」共找到 4926 篇相关文章

模型训练最重要的依然是 Scaling —— 对话阿里通义千问 Qwen 多语言负责人杨宝嵩 | Open AGI Forum

本文是对阿里通义千问Qwen多语言负责人杨宝嵩的专访。他透露Qwen一开始就将国际化视作核心战略，团队建立文化标注体系确保内容安全合规。还谈到多语言推理难题及应对策略，认为扩大模型规模和数据量仍重要，合成数据是延续Scaling Law的关键。

编程领域曾由Claude引领，如今GPT 5.5在大模型解决率为0%的最难编程基准上实现突破。程序重建基准测试（ProgramBench）考验严苛，过往模型解决率为0，GPT 5.5高和超高推理模式成功破局，展现了不同解题风格。

8月24日小米举行玄戒芯片技术沟通会，公布三颗自研芯片：AI旗舰SoC玄戒O3、端侧AI加速芯片玄戒O100、智驾高算力AI芯片玄戒D100。小米重启大芯片研发五年多，投入超210亿，芯片团队近3000人。

光掩模版是芯片制造的“微观底片”，其制造流程复杂，精度要求达纳米级。全球市场规模持续增长，亚太占比超60%。中国企业已在部分环节突破，但仍面临高端设备依赖、材料瓶颈和人才短缺挑战。未来技术融合与国产化生态建设将助力产业发展。

2026年5月极客时间企业版联合《培训》杂志举办DTDS大会，四位产业一线实践者拆解企业AI转型难题。协鑫科技张诗笳给出AI人才培养体系；赵钰莹发布8大岗位AI技能图谱；广新集团李志刚分享创新加速三步法；黄林给出未来趋势判断与诊断模型。

2025年大模型高速进化，全球AI圈“数据大战”激烈。小扎花143亿抢占数据制高点却遇问题，马斯克裁员转招“专业AI导师”。中国澳鹏数据崛起，上半年营收3.06亿，有五大技术平台，未来目标2030年前中国区营收超20亿。

文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。

文章围绕多模态推荐展开，从传统推荐算法演进到多模态表征技术，结合饿了么场景实践，还探索生成式推荐。介绍多模态推荐挑战与代表性工作，梳理表征技术发展，详述饿了么系统设计与训练，分析生成式推荐方案及业界路线。

OpenAI发布自研推理加速芯片Jalapeño，与博通和Celestica合作打造，专为大模型优化，9个月就流片。操刀者是前谷歌TPU核心成员Richard Ho，计划2026年底部署。此前谷歌、微软等已自研芯片，英伟达客户变对手。

本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。