「低内存」共找到 1179 篇相关文章
被轻视的巨大市场，大厂做不好的Local Agent为何难？| 甲子光年
文章指出大模型边际收益递减，AI竞赛规则生变，产业从‘参数竞赛’转向‘效率革命’。本地Agent有潜力，但主流产品体验差。GreenBitAI深耕低比特模型，推出Libra，有望撬开万亿美元增量市场。
最强开源0.9B级OCR模型！本地Agent、知识库都有救了！
百度飞桨PaddleOCR团队开源多模态文档解析模型PaddleOCR-VL，参数量仅0.9B，对算力要求低。它在OmniDocBench V1.5榜单屠榜，经测试，能精准识别发票、图表等，适合本地环境与资源受限设备。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
重磅！DeepSeek R1论文经过同行评议登上Nature封面，梁文锋作为通讯作者再次创造历史
DeepSeek R1论文《DeepSeek - R1 incentivizes reasoning in LLMs through reinforcement learning》登上Nature封面，梁文锋为通讯作者。它是首个经同行评议的有全球影响力的LLM，训练成本低，创新使用‘纯粹强化学习’方法，启发众多研究。
Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战，阐述内存管理、关键技术优化方案，验证性能，并指出未来演进方向。
清华&巨人网络首创MoE多方言TTS框架，数据代码方法全开源
清华与巨人网络联合首创 DiaMoE-TTS 多方言 TTS 框架，数据、代码、方法全开源。它基于 IPA 体系，有 MoE 架构和低资源适配策略，在多语种验证，为方言语音合成提供低成本、可扩展方案。
万帧实时！流式3D重建天花板，被国产开源模型打破了
蚂蚁正式开源 LingBot-Map，这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建，处理速度约 20 FPS，在多基准测试中超越现有流式方法。
对话 Elys 创始人：他的 10 个产品洞察，和他想创造的下一代社交网络
极客公园与 Elys 创始人 Tristan 深度对话，分享 10 个产品洞察。他认为 context 价值大，做新 AI 产品要找好形态，记忆系统本质是推荐系统，还阐述了对 AI 社交等看法，目标是创造低熵社交网络。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
独家对话希捷科技Jason Feist：AI时代，企业正在“删除删除键”｜甲子光年
本文是「甲子光年」对希捷科技云存储业务高级副总裁杰森·费斯特的独家对话。费斯特指出，AI 基础设施正从计算、内存转向存储，企业倾向长期保存数据，高容量硬盘重要性凸显。他还探讨了存储系统变化、技术创新等问题。