搜索：大模型推理加速

「大模型推理加速」共找到 8402 篇相关文章

新手入门 | 搭建 AI 模型开发环境

文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。

阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。

中科院、中山大学、北大团队针对高效微调模型合并难题，提出「方向鲁棒性」概念，揭示 PEFT 模块合并失败主因，给出 RobustMerge 解决方案，提升性能，成果开源。

行业首个具备“高刷”视频理解能力的多模态模型MiniCPM-V 4.5技术报告发布，提出三项关键技术，使模型在多任务达同级SOTA，8B参数规模超72B模型，推理快，开源后获社区好评。

谷歌推出首个广泛开放给开发者的机器人具身推理模型Gemini Robotics - ER 1.5，可作为机器人高级推理大脑。它能解决物理问题，有新能力如快速空间推理等，还能让开发者平衡延迟与准确性。

Meta等机构提出‘元认知重用’机制，让大模型学会反思总结。大模型打造‘行为手册’，与主流RAG系统有本质区别。研究人员设计三种实战用法，虽有局限，但为大模型推理难题提供了解决方案。

Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。

文章以高盛数字化架构设计为例，探讨AI时代技术分析的能力迁移。指出AI使信息采集整合成本降低，技术分析重心从找信息转向构建模型，建模仍是洞察主战场，AI可加速知识铺垫，但模型切换需人类完成。

华为GTS研发部AI数据团队提出EDCO方法，将样本难度估计与动态课程编排引入领域大模型微调。该方法用推理熵动态编排训练课程，让模型面对最有学习价值的样本，已被ICML 2026接收。

大型语言模型用显式思维链推理有局限，潜在思维链（Latent CoT）让推理在连续隐藏状态空间进行。论文梳理该领域，建立框架，介绍方法，探讨可解释性与无限深度推理，指出价值、挑战与未来方向。