「开源推理模型」共找到 9295 篇相关文章
“DeepSeek 时刻” 一周年
本文回顾 2025 年 1 月 “DeepSeek 时刻” 后中国开源 AI 社区转折，分析其对全球开源生态的重塑。指出 DeepSeek R1 降低三门槛，推动战略转变，全球也积极应对新开源热潮。
真实科研水平集体不及格！全新基准SFE给主流多模态LLM来了波暴击
上海人工智能实验室AI4S团队推出SFE评测基准，首创三级评估体系，涵盖五大科学领域66项任务。评测显示主流MLLMs在高阶科学任务有挑战，不同模型、学科表现有差异，还构建了SciPrismaX平台推动AI科学评估生态发展。
TileLang深入详解-第一章-GPU 体系结构复习
作者借长假学习 TileLang 并撰写此文，先复习 GPU 体系结构，包括计算与线程组织、存储层次、专用指令单元，接着介绍核心性能模型与优化原理，最后给出基于 TileLang 的基准测试实践。
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
codex负责人：codex就要过时了
Codex负责人称两三个月后Codex将过时，因下一代模型要处理大规模并发Agent，非其能应对。Huggingface实验显示大小模型在不同harness下排名差异大，脱离模型谈harness过时或不适配说模型Agent能力都不妥。
The Batch: 943｜液体和气体如何运动
传统数值方法模拟复杂物理系统慢且贵，基于机器学习的模拟通常只适用于特定系统。研究人员构建通用 transformer 模型 Walrus，可模拟流体运动，开源且在多方面表现出色，有望加速多领域模拟工作。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
他们让万亿参数RL学会了「省着跑」，顺便砍掉九成算力
2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。
中国AGI深度时刻！杨强、唐杰、林俊旸、姚顺雨大咖们2026开年重磅交锋
2025年中国开源模型表现出色，AI大模型探索新范式。AGI - Next前沿峰会嘉宾探讨AGI发展，指出大模型To C与To B市场逻辑分化，还谈及自主进化、智能体变革及中国AI发展路径等问题。
狂涨10.3K star！最近爆火的微信记录训练专属数字分身，支持语音克隆，绝了！
在AI大模型时代，大家想让模型更个性化。最近GitHub爆火的开源项目`WeClone`，用微信聊天记录训练专属AI打造数字分身，还能语音克隆。它全链路覆盖、支持多模型，有隐私保护等特色，操作也有介绍。