「内存管理」共找到 717 篇相关文章
高通新款云端芯片公开！借推理抢英伟达蛋糕，市值一夜暴涨197.4亿美元
高通宣布推出AI200和AI250两款全新AI芯片进军数据中心市场，消息使股价一度飙升超20%。新品聚焦推理阶段，主打低TCO、高能效与强内存处理能力，还推进端到端软件栈。高通早有布局，已获订单。
小白必读：到底什么是FP32、FP16、INT8？
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提，不同格式在精度、范围、内存占用和计算速度上有差异，还提及多精度与混合精度计算，以及不同硬件对格式的支持情况。
IDC 最新AI Infra报告解读｜AI 云爆发的背后：AI 应用全球化势不可挡
近期 IDC 发布报告，显示亚太企业 GenAI 应用增长快，AI 产业从开发到应用落地。这催生 AI 原生云，GMI Cloud 等新兴厂商崛起。同时，企业面临算力管理成本高问题，推理需求重塑市场格局，为中企出海带来机遇。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。
狂揽81.8K star！Google Firebase 免费开源替代，真香啊~
在开发中后端搭建常令人困扰，Supabase作为开源的Firebase替代品出现。它基于一系列开源工具构建，提供完整且易用的后端解决方案，涵盖数据库管理等多项功能，有多种性能特色，还介绍了使用方法和体验，值得开发者尝试。
实测 Seed 2.1：豆包基模超进化，国产模型能力跨过质变点
作者在做面向 Agent 项目时，因 Claude Code 内存开销大，需更轻方案。火山引擎 Force 大会发布 Seed - 2.1，作者实测其在办公、编程、图像理解等方面表现出色，认为它跨越质变点，将赋能国内 AI 生态圈。
linux.do：一个被严重低估的中文技术社区，国内懂的人都在偷偷用
本文介绍了中文技术社区 linux.do，它上线两年多，虽访问量已追上老牌社区 V2EX，但很多人不知其存在。其核心围绕 ChatGPT 和大模型，有一手信息、开源协作氛围和活跃管理团队，还给出注册及避坑建议。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
当前大语言模型在长周期任务中，长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架，将记忆检索工作外包给轻量级代理模型，在8个权威测试中超越现有方案，且已开源。
鹅厂员工的“神之一手”代码都长什么样？
文章分享6位鹅厂同事的“神之一手”代码。有将快排浓缩到5行的Python代码，有解决逆序打印不可变链表的方案，还有修复订单状态同步漏洞、解决内存泄漏等代码，文末邀读者分享代码赢福利。