🍊作者简介：秃头小苏，致力于用最通俗的语言描述问题

🍊往期回顾：卡尔曼滤波系列1——卡尔曼滤波    张氏标定法原理详解

🍊近期目标：拥有5000粉丝
🍊支持小苏：点赞👍🏼、收藏⭐、留言📩

@[toc]

pytorch中的transforms.ToTensor和transforms.Normalize理解🌴

transforms.ToTensor🌵

  最近看pytorch时，遇到了对图像数据的归一化，如下图所示：

  该怎么理解这串代码呢？我们一句一句的来看，先看transforms.ToTensor()，我们可以先转到官方给的定义，如下图所示：

​  大概的意思就是说，transforms.ToTensor()可以将PIL和numpy格式的数据从[0,255]范围转换到[0,1] ，具体做法其实就是将原始数据除以255。另外原始数据的shape是（H x W x C），通过transforms.ToTensor()后shape会变为（C x H x W）。这样说我觉得大家应该也是能理解的，这部分并不难，但想着还是用一些例子来加深大家的映像🌽🌽🌽

• 先导入一些包

  import cv2
  import numpy as np
  import torch
  from torchvision import transforms
  

• 定义一个数组模型图片，注意数组数据类型需要时np.uint8【官方图示中给出】

  data = np.array([
                  [[1,1,1],[1,1,1],[1,1,1],[1,1,1],[1,1,1]],
                  [[2,2,2],[2,2,2],[2,2,2],[2,2,2],[2,2,2]],
                  [[3,3,3],[3,3,3],[3,3,3],[3,3,3],[3,3,3]],
                  [[4,4,4],[4,4,4],[4,4,4],[4,4,4],[4,4,4]],
                  [[5,5,5],[5,5,5],[5,5,5],[5,5,5],[5,5,5]]
          ],dtype='uint8')
  

  这是可以看看data的shape，注意现在为（W H C）。

  

• 使用transforms.ToTensor()将data进行转换

  data = transforms.ToTensor()(data)
  

  这时候我们来看看data中的数据及shape。

  

  ​ 很明显，数据现在都映射到了[0, 1]之间，并且data的shape发生了变换。

**注意：不知道大家是如何理解三维数组的，这里提供我的一个方法。**🥝🥝🥝

🌼原始的data的shape为（5，5，3），则其表示有5个（5 ， 3）的二维数组，即我们把最外层的[]去掉就得到了5个五行三列的数据。

🌼同样的，变换后data的shape为（3，5，5），则其表示有3个（5 ， 5）的二维数组，即我们把最外层的[]去掉就得到了3个五行五列的数据。

transforms.Normalize🌵

  相信通过前面的叙述大家应该对transforms.ToTensor有了一定的了解，下面将来说说这个transforms.Normalize🍹🍹🍹同样的，我们先给出官方的定义，如下图所示：

​  可以看到这个函数的输出output[channel] = (input[channel] - mean[channel]) / std[channel]。这里[channel]的意思是指对特征图的每个通道都进行这样的操作。【mean为均值，std为标准差】接下来我们看第一张图片中的代码，即

  这里的第一个参数（0.5，0.5，0.5）表示每个通道的均值都是0.5，第二个参数（0.5，0.5，0.5）表示每个通道的方差都为0.5。【因为图像一般是三个通道，所以这里的向量都是1x3的🍵🍵🍵】有了这两个参数后，当我们传入一个图像时，就会按照上面的公式对图像进行变换。【注意：这里说图像其实也不够准确，因为这个函数传入的格式不能为PIL Image，我们应该先将其转换为Tensor格式】

  说了这么多，那么这个函数到底有什么用呢？我们通过前面的ToTensor已经将数据归一化到了0-1之间，现在又接上了一个Normalize函数有什么用呢？其实Normalize函数做的是将数据变换到了[-1,1]之间。之前的数据为0-1，当取0时，output =（0 - 0.5）/ 0.5 = -1；当取1时，output =（1 - 0.5）/ 0.5 = 1。这样就把数据统一到了[-1，1]之间了🌱🌱🌱那么问题又来了，数据统一到[-1，1]有什么好处呢？数据如果分布在(0,1)之间，可能实际的bias，就是神经网络的输入b会比较大，而模型初始化时b=0的，这样会导致神经网络收敛比较慢，经过Normalize后，可以加快模型的收敛速度。【这句话是再网络上找到最多的解释，自己也不确定其正确性】

​  读到这里大家是不是以为就完了呢？这里还想和大家唠上一唠🍓🍓🍓上面的两个参数（0.5，0.5，0.5）是怎么得来的呢？这是根据数据集中的数据计算出的均值和标准差，所以往往不同的数据集这两个值是不同的🍏🍏🍏这里再举一个例子帮助大家理解其计算过程。同样采用上文例子中提到的数据。

• 上文已经得到了经ToTensor转换后的数据，现需要求出该数据每个通道的mean和std。【这一部分建议大家自己运行看看每一步的结果🌵🌵🌵】

  # 需要对数据进行扩维，增加batch维度
  data = torch.unsqueeze(data,0)    #在pytorch中一般都是（batch,C,H,W）
  nb_samples = 0.
  #创建3维的空列表
  channel_mean = torch.zeros(3)
  channel_std = torch.zeros(3)
  N, C, H, W = data.shape[:4]
  data = data.view(N, C, -1)  #将数据的H,W合并
  #展平后，w,h属于第2维度，对他们求平均，sum(0)为将同一纬度的数据累加
  channel_mean += data.mean(2).sum(0)  
  #展平后，w,h属于第2维度，对他们求标准差，sum(0)为将同一纬度的数据累加
  channel_std += data.std(2).sum(0)
  #获取所有batch的数据，这里为1
  nb_samples += N
  #获取同一batch的均值和标准差
  channel_mean /= nb_samples
  channel_std /= nb_samples
  print(channel_mean, channel_std)   #结果为tensor([0.0118, 0.0118, 0.0118]) tensor([0.0057, 0.0057, 0.0057])
  
  

• 将上述得到的mean和std带入公式，计算输出。

  for i in range(3):
      data[i] = (data[i] - channel_mean[i]) / channel_std[i]
  print(data)
  

  ==输出结果：==

  

  ​ 从结果可以看出，我们计算的mean和std并不是0.5，且最后的结果也没有在[-1，1]之间。

  最后我们再来看一个有意思的例子，我们得到了最终的结果，要是我们想要变回去怎么办，其实很简单啦，就是一个逆运算，即input = std*output + mean,然后再乘上255就可以得到原始的结果了。很多人获取吐槽了，这也叫有趣！！？？哈哈哈这里我想说的是另外的一个事，如果我们对一张图像进行了归一化，这时候你用归一化后的数据显示这张图像的时候，会发现同样会是原图。感兴趣的大家可以去试试🥗🥗🥗🥗这里给出一个参考链接：https://blog.csdn.net/xjp_xujiping/article/details/102981117

参考链接1：https://zhuanlan.zhihu.com/p/414242338

参考链接2：https://blog.csdn.net/peacefairy/article/details/108020179

 
 
如若文章对你有所帮助，那就🛴🛴🛴

咻咻咻咻~~duang~~点个赞呗