「4K回放」共找到 2089 篇相关文章
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代,包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
年入6亿、日本细分赛道第一,国产AI 硬件如何拿下日本智能家居市场?
国产 AI 硬件 SwitchBot 拿下日本智能家居市场市占第一。它单价低、安装灵活,以“非入侵式后装”理念,从智能开关拓展到多品类。2023 年扫地机器人 K10+ 大获成功,后又用 S10 试水美国市场,还推出 K20+ Pro 拓展场景。
Claude Opus 5.5 浪费 token?这 4 步拦住它
本文分享网友总结的实用优化方法,针对Claude Opus 5.5浪费token的问题,给出4个可落地步骤,帮助降低大模型调用成本
刚刚!AI 圈顶流 Karpathy 三连击:开源、泼冷水、AI 教育~
10月,AI圈顶流Andrej Karpathy有三连动作:开源nanochat项目,100美元可复刻ChatGPT;发表AGI十年论,给行业泼冷水;推进Eureka教育项目,重构AI教育范式。
5000 star,Harness门槛被OpenHarness打穿了
分享开源Python实现版本OpenHarness,它易上手,能助研究者和开发者理解生产级AI Agent原理、构建专用智能体。介绍其核心功能、架构及核心循环逻辑,还给出了Github链接。
谢尔盖·布林重启「创始人模式」?谷歌组建「突击队」,重押「AI编程」
近日媒体报道,谷歌组建由研究人员和工程师构成的“突击队”,提升AI编程模型能力,推动编码工作自动化。谷歌创始人谢尔盖・布林等参与其中,因Anthropic发布模型刺激,谷歌急起直追。
第一作者必须是AI!首个面向AI作者的学术会议来了,斯坦福发起
斯坦福大学宣布将于2025年举办科学AI智能体开放会议,投稿要求第一作者必须是AI,由其主导论文创作。会议评审主要用AI,人类专家最终评估。目标是探索AI驱动科研的未来,建立规范。
马斯克都惊呼太强!阿里Qwen3.5又一波端侧小模型发布
上周阿里发布Qwen3.5中等规模超强模型,现又推出端侧小模型,获马斯克称赞。其智能密度翻倍且原生多模态,各型号有Base版。不同参数模型性能出色,阿里布局完整生态链,开启智能化未来。
OpenAI深夜开源HealthBench,60个国家合力开发5000段真实对话
今天凌晨1点30,OpenAI开源医疗大模型测试评估集HealthBench。其5000段核心测试对话由60个国家/地区的262名医生打造,采用多轮对话测试。测试显示大模型在医疗保健领域表现显著提升,还介绍了其构建及评估等情况。
SGLang 某些模型的 CUDA Graph 为什么会有上百条 decode cuda stream?
本文分析SGLang运行DeepSeek-V4.1时,CUDA Graph出现上百条decode CUDA流的问题成因,介绍开源PR的修复方案,分享了压缩profiler显示行数的实用脚本方法。