本文主要参考stanford课程CS231n-lecture7,对几种典型CNN网络结构(LeNet、AlexNet、ZFNet、VGGNet、ResNet)及其资源使用(主要针对权重个数、层间存储)进行统计与分析。
1、LeNet
图1-1 LeNet结构示意
表1 LeNet各层输入输出及资源使用
Note:Memorymeans on-chip buffers used for storing intermediate results between layers.
图1-2 LeNet各层权重数量统计
2、AlexNet
图2-1 AlexNet结构示意
表2 AlexNet各层输入输出及资源使用
Note:Memorymeans on-chip buffers used for storing intermediate results between layers.
图2-2 AlexNet各层权重数量统计
3、ZFNet
图3 ZFNet结构示意
表3-1 ZFNet各层输入输出及资源使用
Note:Memorymeans on-chip buffers used for storing intermediate results between layers.
图3-2 ZFNet各层权重数量统计
4、VGGNet
表4 VGGNet各层输入输出及资源使用
Note:Memorymeans on-chip buffers used for storing intermediate results between layers.
图4 VGGNet各层权重数量统计
5、GoogLeNet&ResNet(待续)
(待补充)
图5-1 几种结构ImageNet top5 error与卷积层数统计
图5-2 几种结构ImageNet top5 error与权重总数统计(GooLeNet、ResNet权重总数不准确)