「Blog文章」共找到 1488 篇相关文章
分享2个模型省钱大法
文章分享两个大模型API省钱技巧。一是文本转截图，适用于输入长输出短、费用花在输入token的任务；二是音频加速识别，OpenAI语音识别模型Whisper按音频时长收费，加速音频可省钱，还可包装成API服务盈利。
AI 播客原理解析
作者分享用豆包AI播客将英文长文转成高质量播客的体验，解析AI把文章变真人对话式语音播客的原理，涉及提示词工程和文字转语音技术，还介绍提示词写作与优化过程及长文处理方法。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
618想换电脑跑AI？先听我一句劝。
文章围绕618换电脑跑AI展开，分析了本地跑AI的情况，包括不同模型对算力和显存的要求，指出本地跑的好处是隐私安全、无限免费，还推荐了不同预算的笔记本，为想换电脑学AI的人提供参考。
AI Agent时代的「AWS」：Manus 背后的重要功臣 E2B 是何来头？
文章介绍 E2B 这一开源基础设施，它为 Manus agent 提供虚拟电脑支持，允许在云端安全沙盒运行 AI 生成代码。其沙盒月创建量一年增 375 倍，CEO 目标是成 AI Agent 时代的 AWS，还探讨了 AI Agent 相关问题。
a16z：担心被AI淘汰，产品经理需要具备这5种技能
a16z发布文章讨论AI时代产品经理核心价值。指出产品经理要调研模型，挖掘其能力与局限；软件将成消费支出流向，可推高价产品；情感价值是竞争力；下一代AI产品是围绕模型的创新品；产品经理应日常用AI。
特征工程、模型结构、AIGC——大模型在推荐系统中的3大落地方向｜文末赠书
文章指出大模型在三个层次改变推荐系统，一是改变“知识学习”方式，带来知识输入革命；二是改变“智能体”结构，探索推荐模型新范式；三是创造“新世界”，实现个性化内容生成。还介绍了相应落地应用及对从业者的建议。
腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解
文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度，剖析技术思路、算法及收益，如Attention算子单batch长文本最高加速2.95x，还提及后续显存优化等工作。
从 Redis 到 Valkey，开源社区如何快速创新？
文章介绍了开源键值数据库 Valkey，它诞生于 2024 年 3 月，由 Linux 开源基金会托管，完全兼容 Redis OSS 7.2.4。Valkey 版本迭代快、性能提升、云厂商跟进、社区规模增长、迁移成本低。中国开发者在其中贡献突出，Valkey China 公众号也已上线。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读，聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案，分析在Blackwell上做GEMM + AllReduce融合算子的优势，介绍multimem指令等，还提及接入模型执行路径和性能结果。