常量折叠原理!AI编译器常量折叠跟传统编译器什么关系?计算图也需要常量折叠!【AI编译器】系列之前端优化第06篇

2097
0
2022-12-18 19:47:36
62
36
24
4
【AI编译器】系列之前端优化第06篇:常量折叠原理!AI编译器常量折叠跟传统编译器什么关系?计算图也需要常量折叠! 常量折叠就是将常量表达式计算求值,并用求得的值来替换表达式,放入常量表。可以算作一种编译优化。在AI编译器中,常量折叠的核心思想式对计算图进行后序遍历,可以常量折叠的节点,它的子节点也一定可以常量折叠,将可以常量折叠的子图,替换成一个Constant Node。今天给大家汇报下AI编译器常量折叠跟传统编译器什么关系,还有很重要的计算图+常量折叠的原理!
昇腾招人,已经毕业的快联系鸭
3.1万播放 icon 简介
随着深度学习的不断发展,AI 模型结构在快速演化,底层计算硬件技术更是层出不穷,对于广大开发者来说不仅要考虑如何在复杂多变的场景下有效的将算力发挥出来,还要应对计算框架的持续迭代。AI编译器就成了应对以上问题广受关注的技术方向,让用户仅需专注于上层模型开发,降低手工优化性能的人力开发成本,进一步压榨硬件性能空间。 AI编译器主要是分为前端优化、后端优化,部分还会有中间优化层,而这里面主要介绍AI编译器的前端优化涉及到的算法和优化Pass。
01 内容介绍
03:46
02 什么是图层IR
11:11
03 算子融合原理
17:48
04(上) 数据布局转换原理
16:29
04(下) 数据布局转换算法
13:54
05 内存分配/优化算法
17:09
06. 常量折叠原理
11:06
07.公共子表达式消除
08:30
08. 死代码消除原理
06:24
09. 代数化简原理
09:30
10. 总结:前端优化Pass的排序
04:58
客服
顶部
赛事库 课堂 2021拜年纪