深度学习优化基础：从泰勒展开到梯度下降法和牛顿法【深度学习中的数学ep4】_哔哩哔哩_bilibili

Name: 深度学习优化基础：从泰勒展开到梯度下降法和牛顿法【深度学习中的数学ep4】
Uploaded: 2023-12-07T09:00:00.000Z
Duration: 12 min 28 s
Channel: ReadPaper论文阅读

ReadPaper论文阅读

这节课相对轻松一些，一共就3个内容：泰勒展开及其向量矩阵表达、梯度下降法推导、牛顿法推导。一个相对简单的课后思考：在讲解过程中对泰勒展开的高阶项进行了省略，那在优化算法里，为什么泰勒展开的高阶项可以省略？二阶优化算法速度很快，但为何在深度学习实践中很少用？提这两个小问题给刚接触深度学习的同学思考啦~, 视频播放量 18469、弹幕量 26、点赞数 521、投硬币枚数 230、收藏人数 1017、转发人数 79, 视频作者 ReadPaper论文阅读, 作者简介 ReadPaper是沈向洋老师创办的IDEA研究院研发的论文阅读产品，欢迎登陆readpaper.com，快乐读论文。，相关视频：Transformer为什么会比CNN好，超全超简单！一口气刷完CNN、RNN、GAN、GNN、DQN、Transformer、LSTM、DBN等八大深度学习神经网络算法！从理论到实战，真的比刷剧还爽！，降维打击！动画拆解泰勒展开本质，第五章 最优化方法（6）最速下降法，牛顿法，阻尼牛顿法，【2025版】不愧是吴恩达教授！一口气讲透CNN、RNN、GAN、GNN、DQN、Transformer、LSTM等八大深度学习神经网络算法！简直不要太爽！，不至于吧，梯度下降简单得有点离谱了啊！，泰勒展开有什么用？最透彻的物理理解，【硬核】从最底层讲解，全网最详细激活函数教程！没有之一！，泰勒公式详细推导过程，看完你也会，深度学习中的矩阵求导基础【深度学习中的数学ep1】