某同学采用一个由全连接层构成的前馈神经网络用于手写体数字识别。其中,输入层由28*28大小的图像像素组成,第一隐藏层有100个神经元,第二隐藏层有100个神经元。计算该神经网络模型一共有多少个参数?
我们可以通过计算每一层的参数数量来得到整个神经网络的参数总数。
1. 输入层:$28\times28$个像素,每个像素有3个通道(RGB),所以输入层有$28\times28\times3$个参数。
2. 第一隐藏层:100个神经元,每个神经元有3个权重参数(连接到前一层的100个神经元),所以第一隐藏层有$100\times3$个参数。
3. 第二隐藏层:100个神经元,每个神经元有3个权重参数(连接到上一层的100个神经元),所以第二隐藏层有$100\times3$个参数。
4. 全连接层:100个神经元,每个神经元有3个权重参数(连接到上一层的100个神经元),所以全连接层有$100\times3$个参数。
将每一层的参数数量相加,得到整个神经网络的参数总数:$28\times28\times3+100\times3+100\times3+100\times3$ =3252个参数。
1. 输入层:$28\times28$个像素,每个像素有3个通道(RGB),所以输入层有$28\times28\times3$个参数。
2. 第一隐藏层:100个神经元,每个神经元有3个权重参数(连接到前一层的100个神经元),所以第一隐藏层有$100\times3$个参数。
3. 第二隐藏层:100个神经元,每个神经元有3个权重参数(连接到上一层的100个神经元),所以第二隐藏层有$100\times3$个参数。
4. 全连接层:100个神经元,每个神经元有3个权重参数(连接到上一层的100个神经元),所以全连接层有$100\times3$个参数。
将每一层的参数数量相加,得到整个神经网络的参数总数:$28\times28\times3+100\times3+100\times3+100\times3$ =3252个参数。