投稿

手把手实现一个PyTorch！实现PyTorch核心自动微分！【自动微分】系列第六篇

Name: %E6%89%8B%E6%8A%8A%E6%89%8B%E5%AE%9E%E7%8E%B0%E4%B8%80%E4%B8%AAPyTorch%EF%BC%81%E5%AE%9E%E7%8E%B0PyTorch%E6%A0%B8%E5%BF%83%E8%87%AA%E5%8A%A8%E5%BE%AE%E5%88%86%EF%BC%81%E3%80%90%E8%87%AA%E5%8A%A8%E5%BE%AE%E5%88%86%E3%80%91%E7%B3%BB%E5%88%97%E7%AC%AC%E5%85%AD%E7%AF%87
Uploaded: 2024-07-16T22:09:34.698Z

4786

2022-10-03 22:44:02

【自动微分】系列第六篇：一起手把手实现一个PyTorch，了解实现PyTorch核心自动微分机制！使用操作符重载（OO）编程方式的自动微分，其中数学实现模式则是使用反向模式（Reverse Mode），综合起来就叫做基于反向模式的OO实现AD。通过这个视频，可以了解到PyTorch自动微分是如何实现的，其具体的Tape原理和反向操作。

知识

校园学习

华为

MindSpore

昇腾招人，已经毕业的快联系鸭

自动连播

4.1万播放

简介

AI框架最核心的机制：自动微分。从第一集《计算机实现微分的方式》到第五和六集《手把手实现前向和后向自动微分》，希望跟大家一起分享AI系统中最核心的算法。说实话啦，制作【自动微分】系列视频，存粹是为了记录和梳理在 MindSpore 当SE时候最核心的自动微分原理。网上看了很多文章，基本上都是很零散，当然Automatic Differentiation in Machine Learning: a Survey[1] 这篇文章是目前ZOMI觉得比较好关于自动微分的综述论文。

01. 自动微分内容介绍