开源推理模型」共找到 9159 篇相关文章

开源动态8

开源TTS离线工具!浏览器本地运行,仅300MB模型大小,零服务器依赖,隐私0泄露!

传统TTS工具依赖云端,隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具,能在浏览器本地运行,零服务器依赖,隐私零泄露,具备多项实用功能。

开源星探
开源动态7

类R1训练不再只看结果对错!港中文推出SophiaVL-R1模型

DeepSeek - R1爆火后,类R1结果奖励训练范式引发推理热潮,但仅以结果对错奖励模型有弊端。港中文联合团队发布多模态推理模型SophiaVL - R1,引入‘思考奖励’机制,还用Trust - GRPO算法解决奖励欺骗问题。

机器之心
产品应用8

面壁MiniCPM-SALA模型,稀疏-线性注意力,单卡吞吐百万上下文

面壁智能团队提出SALA,基于此训练的MiniCPM-SALA模型,在单张A6000显卡实现百万token超长上下文推理,训练成本降约75%。它结合稀疏与线性注意力,采用混合架构,继承权重降低成本,在长文本处理上优势明显。

AIGC开放社区
开源动态8

性能飙升42%!人大&字节开源10万级 SWE数据集 Scale-SWE

近期,人大和字节开源10万级软件工程数据集Scale - SWE,用首创工作流从GitHub构建真实数据。基于此微调的Qwen3 - 30A3B - Instruct模型测试表现佳,其数据相比合成数据优势明显。

PaperAgent
开源动态8

重磅!Thinking Machines开山之作:大模型输出随机的根本原因被揪出,并开源终结方案

由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客,开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化,并给出系统性解法,还开源方案。

AI寒武纪
开源动态7

Kimi开源又放大招!20秒更新万亿参数的中间件来了

Kimi开源出新中间件checkpoint - engine,让Kimi K2万亿模型参数进入“秒更时代”。它能支持一次性发送更新权重,实现点对点动态更新,在K2中发挥重要作用,还可抵御单点故障。

量子位
产品应用8

三星研究院发布手机端侧大模型MeKi:基于Memory的LLM扩展新范式,支持旗舰手机端侧部署

三星研究院发布端侧大模型架构MeKi,提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力,实现容量与性能提升。实验显示其性能、效率表现优,为边缘部署LLM提供新思路。

AI科技评论
产品应用8

AI真有希望考清北了!豆包1.6多模态推理发威,闯关数理化带图大题

火山引擎原动力大会发布豆包大模型1.6,它是国内首款多模态SOTA模型,支持256k上下文长度。实测中它解答高考数理化带图大题表现出色,还具备图像识别、视频理解、GUI操作等能力。此外,火山引擎还推出系列工具和平台助力企业。

新智元
产品应用7

3种主流AIPPT实现方式详解,最复杂的有开源方案。

文章介绍三种主流AIPPT实现方式。图片生成式能按需求画PPT,速度快成本低但难调整;网页编程式效果与模型和提示词相关,易调整、数据精准;模板式有盈利案例,用模板填内容,较可控但实现复杂,还有开源项目PPTAgent可参考。

开源AI项目落地
开源动态8

14.5K!冲上Github Trending榜,字节最新开源Agent上下文"数据库"!

OpenViking是字节跳动火山引擎开源的AI Agent上下文数据库。它用文件系统范式管理上下文,有分层加载、递归检索、可视化轨迹和自动会话管理等特性,支持多种模型,测试效果显著。

GitHubStore