使用 pytorch 建立神經網路擬合sin函式的實現
我們知道深度神經網路的本質是輸入端資料和輸出端資料的一種高維非線性擬合,如何更好的理解它,下面嘗試擬合一個正弦函式,本文可以通過簡單設定節點數,實現任意隱藏層數的擬合。
基於pytorch的深度神經網路實戰,無論任務多麼複雜,都可以將其拆分成必要的幾個模組來進行理解。
1)構建資料集,包括輸入,對應的標籤y
2) 構建神經網路模型,一般基於nn.Module繼承一個net類,必須的是__init__函式和forward函式。__init__建構函式包括建立該類是必須的引數,比如輸入節點數,隱藏層節點數,輸出節點數。forward函式則定義了整個網路的前向傳播過程,類似於一個Sequential。
4)定義損失函式(判別準則),比如均方誤差,交叉熵等
5)定義優化器(optim:SGD,adam,adadelta等),設定學習率
6)開始訓練。開始訓練是一個從0到設定的epoch的迴圈,迴圈期間,根據loss,不斷迭代和更新網路權重引數。
無論多麼複雜的網路,基於pytorch的深度神經網路都包括6個模組,訓練階段包括5個步驟,本文只通過擬合一個正弦函式來說明加深理解。
廢話少說,直接上程式碼:
from torch.utils.data import DataLoader from torch.utils.data import TensorDataset import torch.nn as nn import numpy as np import torch # 準備資料 x=np.linspace(-2*np.pi,2*np.pi,400) y=np.sin(x) # 將資料做成資料集的模樣 X=np.expand_dims(x,axis=1) Y=y.reshape(400,-1) # 使用批訓練方式 dataset=TensorDataset(torch.tensor(X,dtype=torch.float),torch.tensor(Y,dtype=torch.float)) dataloader=DataLoader(dataset,batch_size=100,shuffle=True) # 神經網路主要結構,這裡就是一個簡單的線性結構 class Net(nn.Module): def __init__(self): super(Net,self).__init__() self.net=nn.Sequential( nn.Linear(in_features=1,out_features=10),nn.ReLU(),nn.Linear(10,100),nn.Linear(100,10),1) ) def forward(self,input:torch.FloatTensor): return self.net(input) net=Net() # 定義優化器和損失函式 optim=torch.optim.Adam(Net.parameters(net),lr=0.001) Loss=nn.MSELoss() # 下面開始訓練: # 一共訓練 1000次 for epoch in range(1000): loss=None for batch_x,batch_y in dataloader: y_predict=net(batch_x) loss=Loss(y_predict,batch_y) optim.zero_grad() loss.backward() optim.step() # 每100次 的時候列印一次日誌 if (epoch+1)%100==0: print("step: {0},loss: {1}".format(epoch+1,loss.item())) # 使用訓練好的模型進行預測 predict=net(torch.tensor(X,dtype=torch.float)) # 繪圖展示預測的和真實資料之間的差異 import matplotlib.pyplot as plt plt.plot(x,y,label="fact") plt.plot(x,predict.detach().numpy(),label="predict") plt.title("sin function") plt.xlabel("x") plt.ylabel("sin(x)") plt.legend() plt.savefig(fname="result.png",figsize=[10,10]) plt.show()
輸出結果:
step: 100,loss: 0.06755948066711426
step: 200,loss: 0.003788222325965762
step: 300,loss: 0.0004728269996121526
step: 400,loss: 0.0001810075482353568
step: 500,loss: 0.0001108720971387811
step: 600,loss: 6.29749265499413e-05
step: 700,loss: 3.707894938997924e-05
step: 800,loss: 0.0001250380591955036
step: 900,loss: 3.0654005968244746e-05
step: 1000,loss: 4.349641676526517e-05
輸出影象:
到此這篇關於使用 pytorch 建立神經網路擬合sin函式的實現的文章就介紹到這了,更多相關pytorch 建立擬合sin函式內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!