「推理加速技术」共找到 4890 篇相关文章
GPT-5准确率不足40%！北大发布多模态、高难度化学基准SUPERChem
北大团队发布多模态、高难度化学基准SUPERChem，构建评估大语言模型化学推理能力新体系。测试显示，GPT - 5准确率仅38.5%，与低年级本科生相当，且模型在高阶推理有短板，该基准为模型优化指明方向。
Jeff Dean最新访谈：基础模型越来越强，小团队如何与谷歌等巨头竞争？
Jeff Dean 在 Y Combinator 活动中与 Diana Hu 对谈，探讨 AI 创业者面临的问题。他指出推理成新瓶颈，预计有更多推理硬件；Agent 执行复杂任务进步快；小团队可找 1%成功率问题；还提及稀缺能力及创业建议。
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
「Thinking with Images」推理速度太慢？「Zooming without Zooming」 让AI不调用工具也能「明察秋毫」！
上海交通大学与蚂蚁集团联合团队发布多模态大模型成果“Zooming without Zooming”。该研究提出R2I方法，将“缩放”转为训练目标，使模型单次前向传播实现细粒度感知，团队开源的ZwZ模型家族达开源SOTA性能。
北大-灵初重磅发布具身VLA全面综述！一文看清VLA技术路线与未来趋势
GPT-4o等多模态基础模型发展，让研究者探索将智能延伸到物理空间，VLA模型受关注。北大 - 灵初联合实验室从动作词元化视角提出新框架，分析主流action token，还介绍了VLA发展趋势及面临挑战。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
拥抱大模型：深入剖析ReAct的核心原理、技术架构及其对AI领域的深远影响
文章深入剖析ReAct，它是普林斯顿大学和谷歌团队提出的智能体架构范式，将推理与行动协同，构建TAO闭环。介绍其原理、架构，指出解决传统AI难题，也存在局限，未来可与强化学习等融合。
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。
他们，诠释了 QCon 的技术厚度 | 2025 QCon 上海站优秀出品人与明星讲师揭晓
2025 QCon全球软件开发大会（上海站）圆满落幕，超1300人参与。大会聚焦可持续工程能力建设，强调‘落地实践’。收官之际揭晓优秀出品人与明星讲师，他们推动知识流动，诠释QCon技术厚度。
14B规模竟也能单卡实时生成视频？多亏这个强大的开源底座
春节期间 Seedance 2.0 爆火，字节跳动等开源视频模型 Helios 家族，参数量 14B，单卡生成速度达 19.5 FPS。它与 UniWorld-OSP2.0 技术栈同源，后者是超百亿级视频生成大模型，有诸多技术突破。