使用Pytorch來編寫神經網路具有很多優勢，比起Tensorflow，我認為Pytorch更加簡單，結構更加清晰。

希望通過實戰幾個Pytorch的例子，讓大家熟悉Pytorch的使用方法，包括資料集建立，各種網路層結構的定義，以及前向傳播與權重更新方式。

比如這裡給出

很顯然，這裡我們只需要假定

這裡我們只需要設定一個合適尺寸的全連線網路，根據不斷迭代，求出最接近的引數即可。

但是這裡需要思考一個問題，使用全連線網路結構是毫無疑問的，但是我們的輸入與輸出格式是什麼樣的呢？

只將一個x作為輸入合理嗎？顯然是不合理的，因為每一個神經元其實模擬的是wx+b的計算過程，無法模擬冪運算，所以顯然我們需要將x，x的平方，x的三次方，x的四次方組合成一個向量作為輸入，假設有n個不同的x值，我們就可以將n個組合向量合在一起組成輸入矩陣。

這一步程式碼如下：

def make_features(x):
    x = x.unsqueeze(1)
    return torch.cat([x ** i for i in range(1,4)] , 1)

我們需要生成一些隨機數作為網路輸入：

def get_batch(batch_size=32):
    random = torch.randn(batch_size)
    x = make_features(random)
    '''Compute the actual results'''
    y = f(x)
    if torch.cuda.is_available():
        return Variable(x).cuda(), Variable(y).cuda()
    else:
        return Variable(x), Variable(y)
 

其中的f(x)定義如下：

w_target = torch.FloatTensor([0.5,3,2.4]).unsqueeze(1)
b_target = torch.FloatTensor([0.9])

def f(x):
    return x.mm(w_target)+b_target[0]

接下來定義模型：

class poly_model(nn.Module):
    def __init__(self):
        super(poly_model, self).__init__()
        self.poly = nn.Linear(3,1)

    def forward(self, x):
        out = self.poly(x)
        return out
 

if torch.cuda.is_available():
    model = poly_model().cuda()
else:
    model = poly_model()

接下來我們定義損失函式和優化器：

criterion = nn.MSELoss()
optimizer = optim.SGD(model.parameters(), lr = 1e-3)

網路部件定義完後，開始訓練：

epoch = 0
while True:
    batch_x,batch_y = get_batch()
    output = model(batch_x)
    loss = criterion(output,batch_y)
    print_loss = loss.data[0]
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()
    epoch+=1
    if print_loss < 1e-3:
        break

到此我們的所有程式碼就敲完了，接下來我們開始詳細瞭解一下其中的一些程式碼。

在make_features()定義中，torch.cat是將計算出的向量拼接成矩陣。unsqueeze是作一個維度上的變化。

get_batch中，torch.randn是產生指定維度的隨機數，如果你的機器支援GPU加速，可以將Variable放在GPU上進行運算，類似語句含義相通。

x.mm是作矩陣乘法。

模型定義是重中之重，其實當你掌握Pytorch之後，你會發現模型定義是十分簡單的，各種基本的層結構都已經為你封裝好了。所有的層結構和損失函式都來自torch.nn，所有的模型構建都是從這個基類 nn.Module繼承的。模型定義中，__init__與forward是有模板的，大家可以自己體會。

nn.Linear是做一個線性的運算，引數的含義代表了輸入層與輸出層的結構，即3*1；在訓練階段，有幾行是Pytorch不同於別的框架的，首先loss是一個Variable，通過loss.data可以取出一個Tensor，再通過data[0]可以得到一個int或者float型別的值，我們才可以進行基本運算或者顯示。每次計算梯度之前，都需要將梯度歸零，否則梯度會疊加。個人覺得別的語句還是比較好懂的，如果有疑問可以在下方評論。

下面是我們的擬合結果

其實效果肯定會很好，因為只是一個非常簡單的全連線網路，希望大家通過這個小例子可以學到Pytorch的一些基本操作。往後我們會繼續更新，完整程式碼請戳，https://github.com/ZhichaoDuan/PytorchCourse