我的系列博文：

1、簡述

2、程式碼

for epoch in range(2):  # loop over the dataset multiple times 指定訓練一共要迴圈幾個epoch

    running_loss = 0.0  #定義一個變數方便我們對loss進行輸出
    for i, data in enumerate(trainloader, 0): # 這裡我們遇到了第一步中出現的trailoader，程式碼傳入資料
                                              # enumerate是python的內建函式，既獲得索引也獲得資料，詳見下文
        # get the inputs
        inputs, labels = data   # data是從enumerate返回的data，包含資料和標籤資訊，分別賦值給inputs和labels

        # wrap them in Variable
        inputs, labels = Variable(inputs), Variable(labels) # 將資料轉換成Variable，第二步裡面我們已經引入這個模組
                                                            # 所以這段程式裡面就直接使用了，下文會分析
        # zero the parameter gradients
        optimizer.zero_grad()                # 要把梯度重新歸零，因為反向傳播過程中梯度會累加上一次迴圈的梯度

        # forward + backward + optimize      
        outputs = net(inputs)                # 把資料輸進網路net，這個net()在第二步的程式碼最後一行我們已經定義了
        loss = criterion(outputs, labels)    # 計算損失值,criterion我們在第三步裡面定義了
        loss.backward()                      # loss進行反向傳播，下文詳解
        optimizer.step()                     # 當執行反向傳播之後，把優化器的引數進行更新，以便進行下一輪

        # print statistics                   # 這幾行程式碼不是必須的，為了打印出loss方便我們看而已，不影響訓練過程
        running_loss += loss.data[0]         # 從下面一行程式碼可以看出它是每迴圈0-1999共兩千次才打印一次
        if i % 2000 == 1999:    # print every 2000 mini-batches   所以每個2000次之類先用running_loss進行累加
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))  # 然後再除以2000，就得到這兩千次的平均損失值
            running_loss = 0.0               # 這一個2000次結束後，就把running_loss歸零，下一個2000次繼續使用

print('Finished Training')
 

3、分析