「鲍莫尔成本病」共找到 1534 篇相关文章
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。
MCP 和 Skills 到底什么区别？一篇文章说清楚
文章解释了 MCP 和 Skills 的区别。MCP 是 AI 世界的 USB 协议，可降低开发成本，但会吃掉上下文窗口；Skills 采用渐进式披露设计，自带脚本，能减少上下文消耗。未来 Skills 或承担多数工作，MCP 用于远程连接。
Jina AI创业复盘：AI团队的Scaling Law是什么
本文是对 Jina AI 创始人肖涵的访谈，复盘六年创业历程。他两次转型，最终聚焦搜索底座模型，公司被 Elastic 收购。他分享创业得失，认为团队聚焦、高效运营是壁垒，还给出未来创业者专注、找优秀人才等建议。
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在 AI 训练中表现。在满足 GPU 利用率阈值下，能支撑更多 GPU 的存储系统扩展性与稳定性更强，还需关注资源利用率。以太网存储方案灵活且成本效益高。
这个时代最缺的是「个人上下文」丨对话flomo浮墨笔记
量子位智库对话flomo浮墨笔记联合创始人刘少楠，探讨AI笔记产品发展。刘少楠分享了flomo定位、目标人群、降低门槛方法等，提及AI带来的认知变化，还谈了产品指标、功能考量、成本平衡等问题。
默认选择 React，等于是在扼杀前端创新
文章指出默认选 React 正减缓前端创新。如今团队选前端常出于习惯而非技术契合度，使 Svelte、Solid、Qwik 等创新框架难被采用。默认选 React 还带来运行成本、架构惰性等问题，呼吁根据需求选框架。
企业数据“LLM ready”与“小Palantir”们的崛起 ｜ AGIX PM Notes
文章指出当前 AI 仍处准备阶段，企业数据未就绪是落地大障碍，深层问题是流程 AI 原生化转型。还介绍本周市场、多家科技企业动态，以及巴菲特和芒格对 ETF 的看法及投资建议。
训练数据量降低1万倍，谷歌提出超高质量数据主动学习方法
将大模型应用于特定领域需数据微调，但筛选高保真训练数据难度大、成本高。谷歌提出新主动学习筛选流程，能将训练数据规模降1万倍，还提升模型与人类专家一致性。经实验验证，该方法效果显著。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。