「内存节省」共找到 294 篇相关文章

产品应用8

告别JSON冗余:TOON让Token成本降低30-60%

LLM交互用JSON有冗余,成本高、速度慢。TOON格式专为LLM优化,结合YAML和CSV特点,比JSON减少30 - 60%的token消耗,还介绍了特性、上手方法、集成实践和适用场景。

CourseAI
算法论文7

ENG APPL COMP FLUID | 西北工业大学曹文博、张伟伟等:基于参数化神经网络求解器的层流翼型绕流代理模型

近年来,PINNs在流体力学中受关注,但在高维参数化与复杂流动问题中受限。西北工业大学曹文博团队基于TSONN构建层流翼型绕流参数化求解器,训练出强泛化能力的代理模型,为工程层流气动分析提供新方案。

力学与人工智能
产品应用8

nndeploy:一款基于可视化工作流的AI部署工具

nndeploy是简单易用且高性能的AI部署框架,可将推理优化转化为可视化工作流,无需前端技术栈。它还提供端侧完整AI部署方案,有多端推理等功能,介绍了使用方法与技术原理。

GiantPandaLLM
开源动态7

Memvid:把你的文档库变成一个小巧的视频,还能瞬间搜出你想要的!

传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件,能高效检索,解决存储冗余、检索延迟和网络依赖问题,使用简单,虽处概念原型阶段但值得尝试。

AI工程化
算法论文8

矩阵乘法新突破!XX^T原来可以更快!RL助力搜索,世界纪录又被提升了5%

深圳市大数据研究院、香港中文大学(深圳)研究团队,结合强化学习与组合优化技术,发掘新算法 RXTX,让 XX^T 运算减少 5% 运算量,成果在国际引发关注,不过产业化落地仍面临挑战。

机器之心
新闻资讯8

江波龙在骁龙8上跑通30B模型,存储的角色变了|甲子光年

本文报道江波龙携手高通,在2026骁龙峰会上基于第六代骁龙8超级至尊版移动平台,跑通端侧30B-MoE大模型本地推理,探讨存储行业转型AI技术周期的产业逻辑。

甲子光年
产品应用8

Deepseek V4 Pro深夜上线,性能追平Fable 5,但价格只有它的2%

2026年8月12日,DeepSeek V4 Pro正式版上线。它是混合专家模型,规模居世界第一梯队。价格比Claude Fable 5便宜超98%,成本优势明显。其架构节省成本,API开放多模式,产品结构清晰。

DeepTech深科技
开源动态8

1.4K标星!微软开源了一款全能AI客服系统,一键24小时实时对话!

数字化时代传统呼叫中心问题多,成本高。微软在GitHub开源Call Center AI,基于Azure + GPT的智能语音客服系统,具多项功能,采用三层设计,适用多行业,可落地,或成企业标配。

开源星探
开源动态8

还在花钱转语音?10,000+ star 开源「ebook2audiobook」白嫖1107种语言!免费文字秒变多语言音频!

`ebook2audiobook` 是由 Drew Thomasson 主导、13k+ Stars 的开源工具,能将电子书无缝转换为有声书,支持 1107+ 语言,有章节拆分、多 TTS 引擎支持等功能,低门槛部署,适合多场景。

小华同学ai
开源动态8

不用千亿参数也能合成高质量数据!这个开源框架让小模型“组团逆袭”,7B性能直追72B

上海人工智能实验室与中国人民大学提出GRA框架,以“多人协作”理念让小模型分工生成高质量训练数据。实验显示其生成数据质量高,项目已开源。它打破对大模型蒸馏依赖,展现“集体智能”潜力。

量子位