技术指南」共找到 3001 篇相关文章

推荐文章8

vLLM PIECEWISE CUDA Graph 技术学习笔记

文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。

GiantPandaLLM
算法论文8

从代码基座模型到智能体与应用:代码智能的全面综述与实践指南

北航、阿里等机构联合发布论文,系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等,还提及软件工程智能体、安全防御及训练指南,预言未来编程走向。

深度学习自然语言处理
新闻资讯7

全国首部可信AI“技术安全+数据合规”标准来了,欢迎参与起草!

2025年国家数据局开展可信数据空间试点,在多领域落地经验。但实践中技术、合规等问题凸显。中国电子商会归口、智合标准中心起草《人工智能大模型可信数据协作安全与合规指南》,有诸多亮点,现公开征集起草单位和起草人。

AI工程化
新闻资讯7

全国首部可信AI“技术安全+数据合规”标准来了,欢迎参与起草!

2025年国家数据局开展可信数据空间试点,在多领域落地经验。但实践中出现技术与标准等问题,中国电子商会归口、智合标准中心组织起草《人工智能大模型可信数据协作安全与合规指南》,介绍标准内容、亮点等并征集起草单位和起草人。

AI寒武纪
新闻资讯8

英伟达官方推理指南来了!6倍无损加速,最优解全是华人写的

9月2日,英伟达技术博客上线《用投机解码做AI模型协同设计》,给出推理加速选型表。列入指南的核心方案多由华人团队主导,介绍了从外置草稿模型到n - gram查表法等方案,还提到硬件常数对模型架构的约束。

新智元
新闻资讯8

我国科研团队,突破了存算一体技术瓶颈

AI浪潮倒逼半导体产业创新,存算一体技术应运而生。但该技术应用存在问题,排序难题制约其发展。北大团队国际首次实现基于存算一体技术的高效排序硬件架构,成果发表在《自然∙电子》。

芯师爷
推荐文章7

先进封装技术解读 | 三星

集成电路产业分芯片设计、制造、封装测试三大领域,先进封装让制造与封测融合。本文解读三星先进封装技术,分2.5D的I - Cube和3DIC的X - Cube,还与台积电、英特尔技术对比,指出三星多为跟随者。

芯师爷
推荐文章8

YC 编写的 《Vibe Coding 指南

本文是 YC 编写的《Vibe Coding 指南》,采访多位创始人总结出 AI 协作编程指南,涵盖规划流程、版本控制、测试框架等多方面,还提及 AI 在编码外的应用及持续改进方法。

宝玉AI
新闻资讯7

OpenAI 开源模型泄露:六大技术细节

OpenAI 可能发布的开源大模型细节泄露,包含两款模型,1200 亿参数 MoE 模型和 200 亿参数稠密模型,专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。

AI寒武纪
开源动态7

FlashInfer集成TensorRT-LLM cubin kernel技术分析

文章以MoE模块为例,分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件,介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。

GiantPandaLLM