深度学习编译器」共找到 1997 篇相关文章

推荐文章8

vLLM PIECEWISE CUDA Graph 技术学习笔记

文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。

GiantPandaLLM
新闻资讯8

独白:OpenAI前员工的深度反思

OpenAI前员工在博客分享工作体验,从文化、技术等多维度剖析公司。指出极速扩张面临挑战,文化独特,技术上用Python单体代码库、依赖Azure,还详述Codex项目诞生,认为AGI竞赛在OpenAI等三家展开。

AI工程化
推荐文章7

深度洞察:AI带来的产业发展趋势

文章指出AI正以极快速度改变世界,趋势已成。探讨软件业从以应用为中心到以模型为中心的变革,还将阐述从以应用为入口到以AI为入口、AI巨头发展方向及未来展望等内容。

AI与安全
推荐文章7

LightX2V Ulysses Attention 实现学习笔记

本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景,其实现可概括为一种layout变换,还提供`enable_head_parallel`和`use_fp8_comm`选项,效果受运行环境等因素影响。

GiantPandaLLM
新闻资讯8

谷歌最新版「深度研究」反击GPT-5.2

GPT - 5.2发布前,谷歌推出新版Gemini Deep Research Agent,基于Gemini 3 Pro构建,功能强大。还开源DeepSearchQA,推出交互API。此外,DeepMind与英国政府合作,在城市规划、科学研究、网络安全等多领域应用AI技术。

新智元
推荐文章8

重磅!翁荔最新Scaling Law深度洞察来了

北大毕业的前OpenAI高管翁荔(Lilian Weng)的《Scaling Laws, Carefully》值得一读。Scaling law是预训练预算表,能帮少烧错钱。文章探讨大模型训练预算分配,分析Kaplan和Chinchilla结论差异及数据稀缺问题。

PaperAgent
新闻资讯8

谷歌掀桌:深度研究智能体进入自动驾驶时代

4月末谷歌DeepMind推出两款基于Gemini 3.1 Pro的AI研究智能体,标准版重速度,增强版求详尽。Max版在多测试获SOTA得分,能自主研究课题出报告,还可融合数据、生成图表,已开启公开预览。

新智元
算法论文7

The Batch: 939 |在推理阶段学习长上下文

大型语言模型处理长上下文时通常准确性降低、速度变慢,研究人员提出TTT - E2E方法,通过推理时训练模型将上下文压缩到transformer权重中,还展示了其运作方式、测试结果等。

DeeplearningAI
新闻资讯7

ChatGPT引爆教育革命,学习效果暴涨86.7%!

新智元报道,Nature子刊元分析汇总51项研究,揭示ChatGPT显著提升中小学生学业表现和高阶思维能力,不限学科和使用方式,还能减轻精神负担,但使用需家长和老师指导。

新智元
9

初识App Store和苹果审核【第一期】深度解析

App Store的审核流程和苹果惩罚机制究竟是怎样的?文章详细解析了App Store的变迁、分发模式、开发者账号区别、上架流程、审核流程和依据,以及惩罚机制和应对方式。

孔学长