玩转pytorch中的torchvision.transforms

文章作者：Tyan
博客：noahsnail.com | CSDN | 简书

0. 运行环境

python 3.6.8, pytorch 1.5.0

1. torchvision.transforms

在深度学习中，计算机视觉(CV)是其中的一大方向，而在CV任务中，图像变换(Image Transform)通常是必不可少的一环，其可以用来对图像进行预处理，数据增强等。本文主要整理PyTorch中torchvision.transforms提供的一些功能(代码加示例)。具体定义及参数可参考PyTorch文档。

1.1 torchvision.transforms.Compose

Compose的主要作用是将多个变换组合在一起，具体用法可参考2.5。下面的示例结果左边为原图，右边为保存的结果。

2. Transforms on PIL Image

这部分主要是对Python最常用的图像处理库Pillow中Image的处理。基本环境及图像如下：

import torchvision.transforms as transforms

from PIL import Image

img = Image.open('tina.jpg')

...

# Save image
img.save('image.jpg')

2.1 torchvision.transforms.CenterCrop(size)

CenterCrop的作用是从图像的中心位置裁剪指定大小的图像。例如一些神经网络的输入图像大小为224*224，而训练图像的大小为256*256，此时就需要对训练图像进行裁剪。示例代码及结果如下：

size = (224, 224)
transform = transforms.CenterCrop(size)
center_crop = transform(img)
center_crop.save('center_crop.jpg')

2.2 torchvision.transforms.ColorJitter(brightness=0, contrast=0, saturation=0, hue=0)

ColorJitter的作用是随机修改图片的亮度、对比度和饱和度，常用来进行数据增强，尤其是训练图像类别不均衡或图像数量较少时。示例代码及结果如下：

brightness = (1, 10)
contrast = (1, 10)
saturation = (1, 10)
hue = (0.2, 0.4)
transform = transforms.ColorJitter(brightness, contrast, saturation, hue)
color_jitter = transform(img)
color_jitter.save('color_jitter.jpg')

2.3 torchvision.transforms.FiveCrop(size)

FiveCrop的作用是分别从图像的四个角以及中心进行五次裁剪，图像分类评估时分为Singl Crop Evaluation/Test和Multi Crop Evaluation/Test，FiveCrop可以用在Multi Crop Evaluation/Test中。示例代码及结果如下：

1
2
3

size = (224, 224)
transform = transforms.FiveCrop(size)
five_crop = transform(img)

2.4 torchvision.transforms.Grayscale(num_output_channels=1)

Grayscale的作用是将图像转换为灰度图像，默认通道数为1，通道数为3时，RGB三个通道的值相等。示例代码及结果如下：

1
2
3

transform = transforms.Grayscale()
grayscale = transform(img)
grayscale.save('grayscale.jpg')

2.5 torchvision.transforms.Pad(padding, fill=0, padding_mode=’constant’)

Pad的作用是对图像进行填充，可以设置要填充的值及填充的大小，默认是图像四边都填充。示例代码及结果如下：

size = (224, 224)
padding = 16
fill = (0, 0, 255)
transform = transforms.Compose([
        transforms.CenterCrop(size),
        transforms.Pad(padding, fill)
])
pad = transform(img)
pad.save('pad.jpg')

2.6 torchvision.transforms.RandomAffine(degrees, translate=None, scale=None, shear=None, resample=False, fillcolor=0)

RandomAffine的作用是保持图像中心不变的情况下对图像进行随机的仿射变换。示例代码及结果如下：

degrees = (15, 30)
translate=(0, 0.2)
scale=(0.8, 1)
fillcolor = (0, 0, 255)
transform = transforms.RandomAffine(degrees=degrees, translate=translate, scale=scale, fillcolor=fillcolor)
random_affine = transform(img)
random_affine.save('random_affine.jpg')

2.7 torchvision.transforms.RandomApply(transforms, p=0.5)

RandomApply的作用是以一定的概率执行提供的transforms操作，即可能执行，也可能不执行。transforms可以是一个，也可以是一系列。示例代码及结果如下：

size = (224, 224)
padding = 16
fill = (0, 0, 255)
transform = transforms.RandomApply([transforms.CenterCrop(size), transforms.Pad(padding, fill)])
for i in range(3):
    random_apply = transform(img)

2.8 torchvision.transforms.RandomChoice(transforms)

RandomChoice的作用是从提供的transforms操作中随机选择一个执行。示例代码及结果如下：

size = (224, 224)
padding = 16
fill = (0, 0, 255)
degrees = (15, 30)
transform = transforms.RandomChoice([transforms.RandomAffine(degrees), transforms.CenterCrop(size), transforms.Pad(padding, fill)])
for i in range(3):
    random_choice = transform(img)

2.9 torchvision.transforms.RandomCrop(size, padding=None, pad_if_needed=False, fill=0, padding_mode=’constant’)

RandomCrop的作用是在一个随机位置上对图像进行裁剪。示例代码及结果如下：

1
2
3

size = (224, 224)
transform = transforms.RandomCrop(size)
random_crop = transform(img)

2.10 torchvision.transforms.RandomGrayscale(p=0.1)

RandomGrayscale的作用是以一定的概率将图像变为灰度图像。示例代码及结果如下：

p = 0.5
transform = transforms.RandomGrayscale(p)
for i in range(3):
    random_grayscale = transform(img)

2.11 torchvision.transforms.RandomHorizontalFlip(p=0.5)

RandomHorizontalFlip的作用是以一定的概率对图像进行水平翻转。示例代码及结果如下：

p = 0.5
transform = transforms.RandomHorizontalFlip(p)
for i in range(3):
    random_horizontal_filp = transform(img)

2.12 torchvision.transforms.RandomOrder(transforms)

RandomOrder的作用是以随机顺序执行提供的transforms操作。示例代码及结果如下：

size = (224, 224)
padding = 16
fill = (0, 0, 255)
degrees = (15, 30)
transform = transforms.RandomOrder([transforms.RandomAffine(degrees), transforms.CenterCrop(size), transforms.Pad(padding, fill)])
for i in range(3):
    random_order = transform(img)

2.13 torchvision.transforms.RandomPerspective(distortion_scale=0.5, p=0.5, interpolation=3, fill=0)

RandomPerspective的作用是以一定的概率对图像进行随机的透视变换。示例代码及结果如下：

distortion_scale = 0.5
p = 1
fill = (0, 0, 255)
transform = transforms.RandomPerspective(distortion_scale=distortion_scale, p=p, fill=fill)
random_perspective = transform(img)
random_perspective.save('random_perspective.jpg')

2.14 torchvision.transforms.RandomResizedCrop(size, scale=(0.08, 1.0), ratio=(0.75, 1.3333333333333333), interpolation=2)

RandomResizedCrop的作用是以随机大小和随机长宽比裁剪图像并缩放到指定的大小。示例代码及结果如下：

size = (256, 256)
scale=(0.8, 1.0)
ratio=(0.75, 1.0)
transform = transforms.RandomResizedCrop(size=size, scale=scale, ratio=ratio)
random_resized_crop = transform(img)
random_resized_crop.save('random_resized_crop.jpg')

2.15 torchvision.transforms.RandomRotation(degrees, resample=False, expand=False, center=None, fill=None)

RandomRotation的作用是对图像进行随机旋转。示例代码及结果如下：

degrees = (15, 30)
fill = (0, 0, 255)
transform = transforms.RandomRotation(degrees=degrees, fill=fill)
random_rotation = transform(img)
random_rotation.save('random_rotation.jpg')

2.16 torchvision.transforms.RandomSizedCrop(args, *kwargs)

已废弃，参见RandomResizedCrop。

2.17 torchvision.transforms.RandomVerticalFlip(p=0.5)

RandomVerticalFlip的作用是以一定的概率对图像进行垂直翻转。示例代码及结果如下：

p = 1
transform = transforms.RandomVerticalFlip(p)
random_vertical_filp = transform(img)
random_vertical_filp.save('random_vertical_filp.jpg')

2.18 torchvision.transforms.Resize(size, interpolation=2)

Resize的作用是对图像进行缩放。示例代码及结果如下：

size = (224, 224)
transform = transforms.Resize(size)
resize_img = transform(img)
resize_img.save('resize_img.jpg')

2.19 torchvision.transforms.Scale(args, *kwargs)

已废弃，参加Resize。

2.20 torchvision.transforms.TenCrop(size, vertical_flip=False)

TenCrop与2.3类似，除了对原图裁剪5个图像之外，还对其翻转图像裁剪了5个图像。

3. Transforms on torch.*Tensor

3.1 torchvision.transforms.LinearTransformation(transformation_matrix, mean_vector)

LinearTransformation的作用是使用变换矩阵和离线计算的均值向量对图像张量进行变换，可以用在白化变换中，白化变换用来去除输入数据的冗余信息。常用在数据预处理中。

3.2 torchvision.transforms.Normalize(mean, std, inplace=False)

Normalize的作用是用均值和标准差对Tensor进行归一化处理。常用在对输入图像的预处理中，例如Imagenet竞赛的许多分类网络都对输入图像进行了归一化操作。

3.3 torchvision.transforms.RandomErasing(p=0.5, scale=(0.02, 0.33), ratio=(0.3, 3.3), value=0, inplace=False)

RandomErasing的作用是随机选择图像中的一块区域，擦除其像素，主要用来进行数据增强。示例代码及结果如下：

p = 1.0
scale = (0.2, 0.3)
ratio = (0.5, 1.0)
value = (0, 0, 255)

transform = transforms.Compose([
                transforms.ToTensor(),
                transforms.RandomErasing(p=p, scale=scale, ratio=ratio, value=value),
                transforms.ToPILImage()
            ])
random_erasing = transform(img)
random_erasing.save('random_erasing.jpg')

4 Conversion Transforms

4.1 torchvision.transforms.ToPILImage(mode=None)

ToPILImage的作用是将pytorch的Tensor或numpy.ndarray转为PIL的Image。示例代码及结果如下：

img = Image.open('tina.jpg')
transform = transforms.ToTensor()
img = transform(img)
print(img.size())
img_r = img[0, :, :]
img_g = img[1, :, :]
img_b = img[2, :, :]
print(type(img_r))
print(img_r.size())
transform = transforms.ToPILImage()
img_r = transform(img_r)
img_g = transform(img_g)
img_b = transform(img_b)
print(type(img_r))
img_r.save('img_r.jpg')
img_g.save('img_g.jpg')
img_b.save('img_b.jpg')

# output
torch.Size([3, 256, 256])
<class 'torch.Tensor'>
torch.Size([256, 256])
<class 'PIL.Image.Image'>

4.2 torchvision.transforms.ToTensor

ToTensor的作用是将PIL Image或numpy.ndarray转为pytorch的Tensor，并会将像素值由[0, 255]变为[0, 1]之间。通常是在神经网络训练中读取输入图像之后使用。示例代码如下：

img = Image.open('tina.jpg')
print(type(img))
print(img.size)
transform = transforms.ToTensor()
img = transform(img)
print(type(img))
print(img.size())

# output
<class 'PIL.JpegImagePlugin.JpegImageFile'>
(256, 256)
<class 'torch.Tensor'>
torch.Size([3, 256, 256])

5. Code

代码参见https://github.com/SnailTyan/deep-learning-tools/blob/master/transforms.py。

References

https://pytorch.org/docs/stable/torchvision/transforms.html