投稿

算子融合了解下！AI编译器如何实现算子融合的？【AI编译器】系列之前端优化第03篇

Name: %E7%AE%97%E5%AD%90%E8%9E%8D%E5%90%88%E4%BA%86%E8%A7%A3%E4%B8%8B%EF%BC%81AI%E7%BC%96%E8%AF%91%E5%99%A8%E5%A6%82%E4%BD%95%E5%AE%9E%E7%8E%B0%E7%AE%97%E5%AD%90%E8%9E%8D%E5%90%88%E7%9A%84%EF%BC%9F%E3%80%90AI%E7%BC%96%E8%AF%91%E5%99%A8%E3%80%91%E7%B3%BB%E5%88%97%E4%B9%8B%E5%89%8D%E7%AB%AF%E4%BC%98%E5%8C%96%E7%AC%AC03%E7%AF%87
Uploaded: 2024-07-16T22:10:46.862Z

5005

2022-12-16 15:43:01

【AI编译器】系列之前端优化第03篇：算子融合了解下！AI编译器如何实现算子融合的？ AI编译器的前端主要是基于Graph IR（图层IR/计算图IR）进行操作，但是前端优化有很多种，其中最重要的要数算子融合，图层的算子融合是非常有效的方法，使用“计算换访存”的思想，加速整网的计算。算子融合Pass主要发生在图层，但是Kernel层也会借鉴算子融合的策略，提供大算子给AI框架。现在让我们一起深入了解下算子融合的方式和策略吧！

生活

日常

MindSpore

华为昇腾

昇腾招人，已经毕业的快联系鸭

电脑桌面上养老婆？我也想要！

【AI编译器】前端优化 (3/11)

自动连播

3.1万播放

简介

随着深度学习的不断发展，AI 模型结构在快速演化，底层计算硬件技术更是层出不穷，对于广大开发者来说不仅要考虑如何在复杂多变的场景下有效的将算力发挥出来，还要应对计算框架的持续迭代。AI编译器就成了应对以上问题广受关注的技术方向，让用户仅需专注于上层模型开发，降低手工优化性能的人力开发成本，进一步压榨硬件性能空间。 AI编译器主要是分为前端优化、后端优化，部分还会有中间优化层，而这里面主要介绍AI编译器的前端优化涉及到的算法和优化Pass。

01 内容介绍