1. 程式人生 > >PyTorch學習系列(十五)——如何載入預訓練模型?

PyTorch學習系列(十五)——如何載入預訓練模型?

PyTorch提供的預訓練模型

PyTorch定義了幾個常用模型,並且提供了預訓練版本:

  • AlexNet: AlexNet variant from the “One weird trick” paper.
  • VGG: VGG-11, VGG-13, VGG-16, VGG-19 (with and without batch normalization)
  • ResNet: ResNet-18, ResNet-34, ResNet-50, ResNet-101, ResNet-152
  • SqueezeNet: SqueezeNet 1.0, and SqueezeNet 1.1

預訓練模型可以通過設定pretrained=True來構建:

import torchvision.models as models
resnet18 = models.resnet18(pretrained=True)
vgg16 = models.vgg16(pretrained=True)
alexnet = models.alexnet(pretrained=True)
squeezenet = models.squeezenet1_0(pretrained=True)

預訓練模型期望的輸入是RGB影象的mini-batch:(batch_size, 3, H, W),並且H和W不能低於224。影象的畫素值必須在範圍[0,1]間,並且用均值mean=[0.485, 0.456, 0.406]和方差std=[0.229, 0.224, 0.225]進行歸一化。

載入預訓練模型

torch.nn.Module物件有函式static_dict()用於返回包含模組所有狀態的字典,包括引數和快取。鍵是引數名稱或者快取名稱。

函式Module::load_state_dict(state_dict)用state_dict中的狀態值更新模組的狀態值。static_dict中的鍵應該和函式static_dict()返回的字典中的鍵完全一樣。

下面給出載入預訓練的模型的示例:

vgg16 = models.vgg16(pretrained=True)
pretrained_dict = vgg16.state_dict()
model_dict = model.state
_dict() # 1. filter out unnecessary keys pretrained_dict = {k: v for k, v in pretrained_dict.items() if k in model_dict} # 2. overwrite entries in the existing state dict model_dict.update(pretrained_dict) # 3. load the new state dict model.load_state_dict(model_dict)