投稿

李宏毅深度学习课程（全2课2017年版）笔记汇总

3.0万

98

2018-03-05 05:08:32

未经作者授权，禁止转载

探索无需数学基础的深度学习（on the shoulder of 吴恩达+李宏毅） https://zhuanlan.zhihu.com/c_170327360

深度碎片发消息

As Simple As Possible

AMD千帧整机芯更强价更香！

1万人感兴趣

专栏视频介绍

02:07

1.01AI, ML, DL之间的关系

01:19

1.02 什么是hand-crafted AI

04:12

1.03 什么是真正意义上的机器学习（机器智能）

04:53

1.04 机器获取智能的三个步骤

06:40

1.05 什么是regression

01:58

1.06 什么是classification model

04:23

1.07 非线性模型中的深度学习解决分类问题

06:19

1.08 什么是supervised, semi-supervised, transfer, unsupervised learning

07:09

1.09 什么是structured learning

04:35

1.10 什么是reinforcement learning

06:52

1.11 人类新职业：AI训练师

05:04

1.12 如何理解深度学习中的scenario, task, method的区别

11:32

2.01 回顾regression定义和例子

04:23

2.02 建模的第一步：选择模型框架（线性模型，regression）

08:15

2.03 建模step2.01收集和查看训练数据

03:54

2.04 建模step2.2如何判断众多模型的好坏loss function

10:01

2.05 建模step3.1 如何筛选最优的模型（参数）

05:55

2.06 建模step3.2 gradient descent 是如何高效找到最优模型的

15:40

2.07 建模step3.3 gradient descent推演最优模型的过程

07:44

2.08 建模step3.4 gradient descent在现实世界中面临的挑战

10:10

2.09 如何验证训练好的模型的好坏

04:19

2.10 是不是能画出直线就是线性函数，各种复杂的曲线就是非线性函数

06:15

2.11 如何进一步寻找更强大表现更好的模型

09:06

2.12 如何理解overfitting

06:21

2.13 更多数据能缓解overfitting问题

07:24

2.14 如何理解2个input的四个线性函数是如何合并到一个线性函数中的

05:05

2.15 如果希望模型更强大表现更好（更多参数，更多input，数据量没有明显增加，仍旧导致overfitting

04:39

2.16 直观理解regularization

12:30

3.1 如何直观理解bias and variance01

21:26

3.2 如何直观理解bias and variance02

08:32

3.3 如何解决模型的bias过大的问题

02:03

3.4 如何解决variance过高的问题

02:45

3.5 validation set and cross-validation 如何在实际的训练中挑选最优模型

08:21

4.01 什么是gradient

05:00

4.02 如何在图上理解gradient与参数的更新

02:48

4.03 从gradient descent中窥见人工智能

08:04

4.04 人类手动设计的learning-rate不够智慧

06:01

4.05 如何让learning rate（自动）逐步缩小步伐幅度

01:54

4.06 如何让learning-rate针对每个参数和不同时点来量身定制学习步伐幅度

07:16

4.07 什么时候会用到stochastic gradient descent

04:47

4.08 什么是feature scaling

11:39

5.01 什么是classification定义和例子

05:54

5.02 为什么用regression做分类问题存在本质缺陷

02:26

5.03 为什么用regression做分类问题存在本质缺陷

06:33

5.04 如何用概率来解决分类问题

21:52

5.05 如何解决generative model的overfitting问题

06:00

5.06 什么是naive bayes classifer

02:02

5.07 sigmoid函数的由来

02:23

5.08 神经网络中的linear combination的由来

02:05

6.01 logistic regression 是怎么来的

07:21

6.02 binary cross entropy loss是怎么来的

10:58

6.03 为什么分类问题的损失函数不能用MSE

05:50

6.04 generative model vs discriminative model的区别

13:24

6.05 如何构建多元分类（softmax的由来）

04:56

6.06 什么是logistic regression的局限和feature transformation的意义

07:58

6.07 从features transformation(logistic regression)到深度学习

05:38

7.01 什么是neuralnet和内在运算

06:25

7.02 为什么深度学习计算高效

03:04

7.03 feature transformation与neuralnet

04:22

7.04 neuralnet的解题流程

03:50

8 如何理解backpropagation

11:04

9.01 为什么要用mini-batch来训练

07:05

9.02 为什么要做training data shuffling

04:42

10.01 最常见的3中模型表现差的特征和原因

09:48

10.02 ReLU如何解决vanishing gradient的问题

05:52

10.03 如何理解maxout激活函数的意义和计算逻辑

06:18

10.04 如何直观理解adagrad, RMSProp, Momentum

13:01

10.05直观理解early stopping

06:17

10.06 直观理解regularizationL2

06:41

10.07 直观理解regularization L1

03:16

10.08直观理解dropout

08:57

10.09 直观理解ensemble vs dropout

05:27

11.01 为什么fully connected NN 不适合做图片任务

05:40

11.02 图像识别任务对CNN模型的要求

08:27

11.03 如何理解CNN结构设计(以及stride padding)

16:19

11.04 为什么input layer 切分成blocks 而不是vector 为什么输出matrix而不是scalar 如何直观理解feature map

06:51

11.05 如何理解pooling layer和最后的fully connected layer在CNN中的作用

06:45

11.06 如何直观理解CNN每层中的weights feature maps activations

14:39

12.01 为什么深层模型表现更好且更好应对数据缺陷

07:24

12.02 如何直观理解feature map

07:30

12.03 深模型的优势举例

10:43

13.01 什么是semi supervised learning 和generative model的解法

08:20

13.02 什么是low density assumption

11:30

13.03 什么是smoothness assumption

11:08

14 unsupervised learning PCA Matrix Factorization

24:55

直觉版：如何理解supervised learning PCA clustering和降维度

19:11

如何理解reinforcement learning-policy based learningA3C

15:14

直觉版：如何用一张图理解reinforcement learning

15:29

图解 autoencoder

09:07

直觉版 GAN

28:28

图解深度学习：什么是word vector embedding 及其由来

06:54

图解深度学习：训练word embedding的两种方法

07:17

顶部