搜索：开源推理模型

「开源推理模型」共找到 9140 篇相关文章

手机跑推理模型：Liquid AI发布仅需900MB内存的LFM2.5-1.2B-Thinking

Liquid AI发布LFM2.5 - 1.2B - Thinking推理模型，仅需900MB内存就能在手机运行。它专为简洁推理训练，性能提升明显，多数性能基准超Qwen3 - 1.7B，在多平台表现佳，还支持主流推理框架。

全球科技界正豪赌「世界模型」，但主流模型多停留在「视觉生成」。中国影溯公司发布并开源世界模型 InSpatio - World，综合性能优异，以小博大登顶权威榜单，降低了物理世界数字化门槛，引发行业关注。

作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。

最近，3B小模型VibeThinker - 3B在X上火了，它在编程等推理任务上比肩前沿大模型，体积却小很多。它是国产模型，来自新浪微博团队，在各项基准测试表现出色，不过在通用知识领域表现欠佳。

GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。

大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。

蚂蚁灵波开源通用世界模型LingBot-World，视觉效果与Genie 3不相上下且时间维度更长，能让用户深度参与，还具备一致性、记忆力等特点。它通过数据和模型层面创新炼成，结合此前开源成果构建具身智能基础设施。

清华开源首个股票K线大模型Kronos，是专为金融市场K线序列预训练的模型，处理金融数据高噪声特性。采用两阶段框架，有安装、预测步骤，还有批量预测方法，项目地址为https://github.com/shiyu-coder/Kronos。

中国科学院自动化研究所与腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。

中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。