深度学习优化基础:从泰勒展开到梯度下降法和牛顿法【深度学习中的数学ep4】
深度学习中的矩阵求导基础【深度学习中的数学ep1】
Lipschitz连续及其常量的定义讲解【深度学习中的数学ep5】
Transformer为什么会比CNN好
Transformer主要模块从数学上如何解读?【深度学习中的数学ep9】
为什么Transformer会好于ResNet,从Lipschitz常量讲起【深度学习中的数学ep10】
ResNet的数学分析【深度学习中的数学ep8】
张祥雨:Transformer究竟做对了什么,CNN能不能从中学习?
self-attention完整求导公式 [Transformer中的数学part29]
Normalization的本质 [Transformer中的数学part31]
解耦知识蒸馏【CVPR2022】【知识蒸馏】
强化学习下的多教师知识蒸馏模型【沈向洋带你读论文】【知识蒸馏】
【沈向洋带你读论文】Transformers 在图学习表征方面真的表现不佳吗?【Transformers】【图学习】
Transformer对时序预测真的有效吗? | AAAI'23 Oral
self-attention求导 [Transformer中的数学part28]
当FFN遇上Normalization[Transformer中的数学part37]
【沈向洋带你读论文】Dynamic Head——首次突破COCO单模型测试60AP大关
五种不同的Normalization[Transformer中的数学part39]
SGD and Adam in Transformer[Transformer中的数学part36]
【沈向洋带你读论文】HRNet 高分辨率表征学习