「GPU调度」共找到 539 篇相关文章
用 Docker 跑大模型训练,Unsloth 解决了环境配置难题
Unsloth AI 发布 Docker 镜像版本,解决本地训练大模型环境配置难题。拉镜像就能训练,依赖和示例 notebook 都打包好。使用简单,不过有暂不支持 Mac 系统等限制,单卡 NVIDIA GPU 场景较适用。
为什么HBM能摆脱传统周期?
当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动,而AI推理不同,大模型推理对内存依赖是硬约束,GPU更新对HBM需求几乎注定指数级增长。
国产开源模型越多,模型路由的机会越大
中国大模型市场模型增多,能力相近、价格降低且部分开源。开发者选择多但企业选模型难,价值向调度层转移。开源改变产业结构,Routing业务有价值且至少含四层,中国Provider Routing易落地。
硅谷惊变:12万张H100的挽歌
这是虚构故事,Meta用12万张英伟达H100训练“LLaMA 4 Maverick”,却被中国杭州DeepSeek团队用2000张GPU打败。项目失败成丑闻,扎克伯格成立实验室四处收购遇冷,新负责人管理混乱,实验室乌烟瘴气。
让Claude Code更强大:解锁符号级代码检索能力
文章推荐一款免费工具Serena,它通过MCP与Claude Code对接,利用LSP协议统一调度语言服务器,让Claude Code获得符号级理解能力,极大提升处理代码的效率和准确率,安装使用也很简单。
SearchAgent-X: 打破效率桎梏,释放下一代「AI搜索智能体」的真正潜能
论文提出SearchAgent-X框架解决AI搜索智能体效率难题。研究剖析效率瓶颈,发现精度和延迟问题,提出优先级感知调度与无停顿检索技术,经评估大幅提升性能且不牺牲答案质量。
浅析 rust 大明星 Tokio
本文剖析热门Rust库Tokio,介绍其优势与适用场景,从Rust异步着手,分析架构、调度生命周期,还对比Nginx,探讨绑核方法与未来方向,如支持IO Uring、扩展协议栈等。
Copilot 创始工程师:大多数 AI 编码“就像开着法拉利去买牛奶一样”
GitHub Copilot 创始工程师 Neel Sundaresan 正构建智能编码工具 IBM Bob,已有 8 万 IBM 开发者使用。他认为多数 AI 编码像开法拉利买牛奶,Bob 会按需调度模型,他还谈及智能体市场变化与风险。
3320亿市值,他们五年打造一家芯片龙头
沐曦股份发行价居年内科创板第二,网上发行中签率低,单签浮盈刷新纪录成最赚钱新股。它2020年成立,由三位AMD前科学家创立,聚焦GPU研发,虽仍亏损但营收增速快,募资投向科技创新。
从“小卡拉米” 杀入 CNCF,创始人却说:HAMi火了,我们每天仍如履薄冰
本文讲述 HAMi 项目从“小卡拉米”到进入 CNCF 孵化阶段的历程。该项目解决 GPU 利用率问题,建立跨厂商生态。密瓜智能围绕其成立,补社区短板。虽 HAMi 成功,但密瓜智能仍需证明商业价值。