自动微分是怎么实现的?Lib Base、操作符重载、源码转换不懂得快来!【自动微分】系列第四篇!

4341
13
2022-09-29 23:21:30
89
63
29
7
【自动微分】系列第四篇!自动微分是怎么实现的?Lib Base、操作符重载、源码转换不懂得快来! 上一章了解到正反向模式只是自动微分的原理模式,在实际代码实现的过程,正方向模式只是提供一个原理性的指导,在真正编码过程会有很多细节需要打开,例如如何解析表达式,如何记录反向求导表达式的操作等等。这里ZOMI希望通过介绍目前比较热门的方法给大家普及一下自动微分的具体实现。
昇腾招人,已经毕业的快联系鸭
自动连播
4.1万播放 icon 简介
AI框架最核心的机制:自动微分。从第一集《计算机实现微分的方式》到第五和六集《手把手实现前向和后向自动微分》,希望跟大家一起分享AI系统中最核心的算法。 说实话啦,制作【自动微分】系列视频,存粹是为了记录和梳理在 MindSpore 当SE时候最核心的自动微分原理。网上看了很多文章,基本上都是很零散,当然Automatic Differentiation in Machine Learning: a Survey[1] 这篇文章是目前ZOMI觉得比较好关于自动微分的综述论文。
01. 自动微分内容介绍
04:39
02. 计算机的微分方式
10:56
03. 自动微分两种模式
13:27
04. 自动微分实现方式
11:51
05. 实现正向自动微分
10:29
06. 手把手实现PyTorch
19:53
07. 自动微分挑战和未来
13:01
客服
顶部
赛事库 课堂 2021拜年纪