计算pytorch标准化(Normalize)所需要数据集的均值和方差实例

最新推荐文章于 2022-11-10 16:25:39 发布

星月夜语

最新推荐文章于 2022-11-10 16:25:39 发布

阅读量4.7k

点赞数 2

CC 4.0 BY-SA版权

分类专栏：深度学习基础知识算法类文章标签： Normalization 均值方差 pytorch

本文链接：https://blog.csdn.net/ljh618625/article/details/104301539

深度学习基础知识同时被 2 个专栏收录

40 篇文章 ¥49.90 ¥99.00

订阅专栏

超级会员免费看

算法类

24 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文介绍了深度学习中数据规范化的重要性，特别是在PyTorch中。标准化过程通常涉及计算数据集的均值和方差。对于预训练模型，输入数据需按特定方式规范化。文中提供了一种计算自定义数据集图像像素均值和方差的方法，强调了均值反映数据平均水平，方差体现数据离散程度。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

摘要：本文主要介绍输入图像 batch normalization ，计算自己数据集合的 mean 以及std。

一、前言

数据规范-Normalization是深度学习中我们很容易忽视，也很容易出错的问题。我们训练的所有数据在输入到模型中的时候都要进行一些规范化。例如在pytorch中，有些模型是通过规范化后的数据进行训练的，所以我们在使用这些预训练好的模型的时候，要注意在将自己的数据投入模型中之前要首先对数据进行规范化。

我们平常输入的图像大部分都是三通道RGB彩色图像，数据范围大部分都是[0-255]，也就是通常意义上的24-bit图(RGB三通道各8位)。在pytorch中有专门的一些模块：transforms 模块来对图像进行一些预处理操作：

transform = transforms.Compose([
        transforms.RandomResizedCrop(100),
        transforms.RandomHorizontalFlip(),
        transforms.ToTensor(),
        transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
    ])

而且在pytorch的官方介绍中也提到了，pytorch使用的预训练模型搭配的数据必须是：