投稿

Kernel优化架构介绍！【推理引擎】Kernel优化第01篇

6524

2

2023-02-12 00:15:09

【推理引擎】Kernel优化第01篇：Kernel优化架构介绍！推理引擎中的最最重要的一层，Kernel层承载了针对NPU、CPU、GPU等不同IP后端硬件的算子，或者Kernel实现。而 Kernel 层的优化主要有算法优化、内存优化和汇编优化三种，结合三种优化方式在真正运行之前会有调度优化，现在一起看看Kernel优化架构介绍吧！

计算机技术

ZOMI酱发消息

昇腾招人，已经毕业的快联系鸭

电脑桌面上养老婆？我也想要！

【推理引擎】Kernel优化 (1/6)

自动连播

2.5万播放

简介

《Kernel优化》在上层应用或者 AI 网络模型中，看到的是算子；但是在推理引擎实际执行的是具体的 Kernel，而推理引擎中 CNN 占据了主要是得执行时间，因此其 Kernel 优化尤为重要。

01 Kernel优化架构介绍

05:59

02 卷积操作基础原理

13:48

03 Im2Col算法

15:56

04 Winograd算法

14:32

05 QNNPack之间接优化算法

11:53

06 内存布局方式

12:52

顶部