「GPU内存共享」共找到 714 篇相关文章
高通新款云端芯片公开！借推理抢英伟达蛋糕，市值一夜暴涨197.4亿美元
高通宣布推出AI200和AI250两款全新AI芯片进军数据中心市场，消息使股价一度飙升超20%。新品聚焦推理阶段，主打低TCO、高能效与强内存处理能力，还推进端到端软件栈。高通早有布局，已获订单。
小白必读：到底什么是FP32、FP16、INT8？
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提，不同格式在精度、范围、内存占用和计算速度上有差异，还提及多精度与混合精度计算，以及不同硬件对格式的支持情况。
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发，是高性能异构推理框架。其论文入选SOSP 2025，还与SGLang合作。它有算子优化等创新，能让CPU与GPU协同，推动推理架构融合，已成广泛复用的底层框架。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
英伟达最新芯片B30A曝光
最新消息，英伟达正开发代号B30A的AI芯片，性能超H20，基于Blackwell架构，单芯片配置，原始算力或为B300 GPU双芯片一半，下月交付测试。此外还将开发RTX6000D用于AI推理，9月小批量交付。
刚刚，Gemini 宣布将前往太空！
刚刚，Starcloud宣布与Google Cloud合作，要把Gemini模型送上卫星运行。计划今年底或明年初通过SpaceX发射搭载NVIDIA H100 GPU的演示卫星。虽面临诸多技术难题，但在AI算力需求增长下，此举或开启新时代。
单机狂飙4万亿参数，国产AI「四大天王」首次合体！这台超节点鲨疯了
国产「四大开源天王」可在单机运行，背后是「元脑SD200」超节点。它有超大显存、高速互联域和超强算力，支持64路本土GPU且可商用。浪潮信息以开源为战略加速大模型商业化落地。
实测 Seed 2.1：豆包基模超进化，国产模型能力跨过质变点
作者在做面向 Agent 项目时，因 Claude Code 内存开销大，需更轻方案。火山引擎 Force 大会发布 Seed - 2.1，作者实测其在办公、编程、图像理解等方面表现出色，认为它跨越质变点，将赋能国内 AI 生态圈。
英伟达为何持续押注VASTData？AI存储正在成为新的“算力”｜甲子光年
AI产业曾聚焦GPU，如今数据存储设施重要性凸显。VAST Data完成约10亿美元F轮融资，估值300亿美元，英伟达持续跟投。它重构AI数据基础设施，国内焱融科技有相似技术路线且具自主可控优势。
Anthropic万字Skills教程，把Agent工程的核心武功秘籍说明白了
Anthropic官方发布33页Skills构建指南，详细介绍构建高效Skill的方法，涵盖基础概念、规划设计、测试迭代、分发共享等内容。还提及openai用codex agent做项目的经验，指出人类审查成瓶颈，引出渐进式披露的核心秘籍。