「开源引擎」共找到 3226 篇相关文章
SGLang原生支持昇腾,新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官,聚焦大模型推理效率。昇腾成SGLang原生支持后端,助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法,昇腾与SGLang深度共建,性能优且全面拥抱开源。
AI驱动的卡片笔记项目
Blinko是AI驱动的卡片笔记项目,方便快速捕捉和组织灵感。有AI增强笔记检索、数据所有权保障等特性,支持多平台,还具备离线语音识别功能,支持多种AI模型,是开源项目。
微软 SkillOpt:不动模型权重,只训练那份「技能说明书」
微软研究院 Yifan Yang 等人推出 SkillOpt,思路反直觉,不动模型权重,把「技能文档」当可训练参数。它在 52 个组合中表现最优,技能可迁移,代码已开源,还支持多操作。
黄仁勋年初对话:2025 的 AI 如何塑造产业的「五层蛋糕」?
NVIDIA 创始人黄仁勋接受专访,反驳 AI 致失业说法,阐述 AI 技术栈「五层蛋糕」模型,强调开源重要性,批评「上帝 AI」与末日论,还谈到 AI 成本下降、能源需求及「AI 泡沫」等议题。
18.2K Star!macOS 丝滑跑Linux,一键容器、多架构支持,开发效率直接起飞!
介绍轻量级虚拟机管理器 `Lima`,它能在 macOS 上提供类似 WSL2 的体验,专注容器化工作流。支持多架构与多驱动,有开箱即用的容器化支持等特性,安装和使用简单。
30.9K Star牛啊!!再见了PD,不越狱也能装,支持几十种系统,苹果全设备通用!
在苹果生态运行其他系统,Parallels Desktop 收费且移动设备难装。开源工具 UTM 免费,基于 QEMU 构建,支持多架构和系统,操作界面简洁,外围设备支持强,苹果全设备通用。
开源多模态推理「破壁」时刻:MMFineReason助力4B逆袭30B
长期以来,开源多模态模型在复杂推理任务上与顶尖闭源模型有差距,核心痛点是高质量推理数据匮乏。上海AI实验室OpenDataLab团队开源MMFineReason框架及大规模数据集,小模型凭此实现性能逆袭。
DeepSeek-R2可能本月发布,使用华为AI芯片
Huaweicentral消息,搭载华为昇腾AI芯片的DeepSeek - R2可能8月15 - 30日发布,或媲美GPT - 5。它运行在昇腾910B芯片集群,参数规模达1.2万亿,将以低价提供API,冲击开源大模型市场。
一个窗口搞定 SSH、SFTP、终端和 AI,爽啊!
早期运维、开发需多个工具,窗口多效率低,后来的工具又有收费、收集数据等问题。Netcatty是新的开源SSH工作区,整合多种功能,免费无数据收集,更新勤快,有诸多实用特性。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施,可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分,自研Infire推理引擎,还推出Unweight模型压缩系统,分享提示词缓存优化方案。