「RTX 4090」共找到 40 篇相关文章
小钢炮开源，一张3090两小时「从零训练0.1B全模态模型」，模型训练彻底平民化
MiniMind - O是开源超轻量级端到端全模态大模型，采用双轨架构。仅需一张RTX 3090，2小时就能从零训练全链路。有两套训练数据，具备零样本声音克隆等特点，实现大模型训练平民化。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。
英伟达新“桌面超算”800GB大内存，满血DeepSeek R1能装1个半
英伟达在Computex大会宣布新办公室落户中国台湾省台北市，还推出多款新品。如面向个人的DGX Station有800GB内存，能跑大模型；面向企业的RTX PRO Server可加速多种用例。此外，还发布新平台、宣布合作等。
秋招超强助攻：零基础1小时上手GPT微调！全流程教程免费开源
新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。
深度 | 不是黄仁勋要改变 PC，而是 PC 要革自己的命
6月初英伟达发布面向Windows系统个人电脑的全新超级芯片RTX Spark，宣告进军个人电脑核心处理器市场，微软站台，众多PC厂商支持。英特尔是AI PC概念提出者，但英伟达入局后其显得被动。此外，高通、AMD、苹果等也在布局，AI正走向个人计算设备。
让OpenAI只领先5天，百川发布推理新模型，掀翻医疗垂域开源天花板
百川智能发布医疗推理大模型Baichuan - M2 - 32B，在OpenAI的Healthbench评测集上超越刚发布5天的gpt - oss - 120b，领先多数前沿模型，支持RTX4090单卡部署，还首创患者模拟器和Verifier系统。
英伟达最新芯片B30A曝光
最新消息，英伟达正开发代号B30A的AI芯片，性能超H20，基于Blackwell架构，单芯片配置，原始算力或为B300 GPU双芯片一半，下月交付测试。此外还将开发RTX6000D用于AI推理，9月小批量交付。
穿上唐装，黄仁勋在急什么？
北京时间7月16日，黄仁勋穿唐装在「链博会」演讲。此前英伟达H20芯片获出口资格，RTX Pro芯片将在华发售。他与雷军聊AI和小米汽车，谈H20芯片、Meta抢人等话题，还称财务自由无梦想。
全网爆火的DeepSeek「UE8M0 FP8」，原来英伟达早已支持
NVIDIA PTX ISA文档早有.ue8m0数据类型，UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起，NVIDIA在ISA级别支持.ue8m0，H100、RTX 40系列等都有相关支持，DeepSeek是将其提升到模型层面。
24B模型编程超DeepSeek全家桶，32G内存苹果电脑就能跑，专门针对真实GitHub Issue训练
Mistral发布最新开源编程模型Devstral，参数24B，能在单卡RTX4090甚至32G内存Mac上运行。它专为编程智能体推出，针对真实GitHub Issue训练，在SWE - Bench Verified测试中表现出色，还可与All Hands AI框架配合。