张祥雨:Transformer究竟做对了什么,CNN能不能从中学习?

1.8万
6
2022-09-16 10:00:00
513
227
751
156
本期短片节选自《沈向洋带你读论文》BV1oT411M7sx。 自从谷歌在2020年提出ViT(Vision Transformer)之后,Transformer迅速席卷了整个计算机视觉界。获得了马尔奖的Swin Transformer将Shifted Window引入ViT当中,进一步强化Transformer的攻势。Transformer究竟做对了什么,能获得如此强大的性能?CNN能不能从中学习,进一步改进?ResNet作者之一的张祥雨给大家带来了他对Transformer的洞察。
ReadPaper是沈向洋老师创办的IDEA研究院研发的论文阅读产品,欢迎登陆readpaper.com,快乐读论文。
接下来播放
自动连播
客服
顶部
赛事库 课堂 2021拜年纪