AI编译器内存优化算法!动态内存和静态内存区别!【AI编译器】前端优化第05篇

2918
5
2023-01-16 22:00:00
83
40
49
10
【AI编译器】前端优化第05篇:AI编译器内存分配算法!动态内存和静态内存区别! AI编译器的前端内存优化主要是指针对计算图进行拓扑感知,明确内存分配策略,在真正后端backend执行的时候按照内存分配策略执行。在AI训练过程中主要分为动态内存和静态内存,针对不同内存有不同的优化方式,让我们一起了解下AI编译器内存分配算法,还有动态内存和静态内存区别。
昇腾招人,已经毕业的快联系鸭

电脑桌面上养老婆?我也想要!

3.1万播放 icon 简介
随着深度学习的不断发展,AI 模型结构在快速演化,底层计算硬件技术更是层出不穷,对于广大开发者来说不仅要考虑如何在复杂多变的场景下有效的将算力发挥出来,还要应对计算框架的持续迭代。AI编译器就成了应对以上问题广受关注的技术方向,让用户仅需专注于上层模型开发,降低手工优化性能的人力开发成本,进一步压榨硬件性能空间。 AI编译器主要是分为前端优化、后端优化,部分还会有中间优化层,而这里面主要介绍AI编译器的前端优化涉及到的算法和优化Pass。
01 内容介绍
03:46
02 什么是图层IR
11:11
03 算子融合原理
17:48
04(上) 数据布局转换原理
16:29
04(下) 数据布局转换算法
13:54
05 内存分配/优化算法
17:09
06. 常量折叠原理
11:06
07.公共子表达式消除
08:30
08. 死代码消除原理
06:24
09. 代数化简原理
09:30
10. 总结:前端优化Pass的排序
04:58
客服
顶部
赛事库 课堂 2021拜年纪