详解AI编译器数据布局转换方法!华为昇腾处理器的数据布局格式!【AI编译器】系列之前端优化第04篇(下)

2208
3
2022-12-17 21:30:28
52
19
14
7
【AI编译器】系列之前端优化第04篇(下):详解AI编译器数据布局转换方法!华为昇腾处理器的数据布局格式! Data layout transformations 将内部数据布局转换为后端设备友好的形式,是AI编译器的前端一个很重要的Pass。对于计算图中的一个tensor有多种方法存储,比如行主序和列主序。如果学过计算机系统的话,一个重要的概念就是存储金字塔结构。在实际应用中多种多样的设备情况下更为复杂,如何存储数据的选择呈指数级上升。
昇腾招人,已经毕业的快联系鸭

电脑桌面上养老婆?我也想要!

3.1万播放 icon 简介
随着深度学习的不断发展,AI 模型结构在快速演化,底层计算硬件技术更是层出不穷,对于广大开发者来说不仅要考虑如何在复杂多变的场景下有效的将算力发挥出来,还要应对计算框架的持续迭代。AI编译器就成了应对以上问题广受关注的技术方向,让用户仅需专注于上层模型开发,降低手工优化性能的人力开发成本,进一步压榨硬件性能空间。 AI编译器主要是分为前端优化、后端优化,部分还会有中间优化层,而这里面主要介绍AI编译器的前端优化涉及到的算法和优化Pass。
01 内容介绍
03:46
02 什么是图层IR
11:11
03 算子融合原理
17:48
04(上) 数据布局转换原理
16:29
04(下) 数据布局转换算法
13:54
05 内存分配/优化算法
17:09
06. 常量折叠原理
11:06
07.公共子表达式消除
08:30
08. 死代码消除原理
06:24
09. 代数化简原理
09:30
10. 总结:前端优化Pass的排序
04:58
客服
顶部
赛事库 课堂 2021拜年纪