o1 = 0
o2 = 0
o3 = 0
a = 0.002
x = [1,3,5,3,5,7,2,6,7,3,6,9,4,8,9,6,5,3,3,2,7,1,1,1,2,2,2,3,3,3,4,4,4,5,5,5,6,6,6,7,7,7,8,8,8,9,9,9]   #生成訓練數據
x = x * 250              #將訓練數據擴大50倍
y = []
#生成訓練數據的理論結果
for i in range(int(len(x)/3)):
    y.append(14*x[i] + 5*x[i+1] + 58*x[i+2])
    # print(‘y[{}]:{}‘.format(i,y[i]))
 

#進行隨機梯度下降 每用一行數據，就下降一次，需要樣本足夠且，a值合理
for i in range(len(y)):
    o1 = o1 - a * (o1 * x[i] + o2 * x[i+1] + o3 * x[i+2] - y[i]) * x[i]
    o2 = o2 - a * (o1 * x[i] + o2 * x[i+1] + o3 * x[i+2] - y[i]) * x[i+1]
    o3 = o3 - a * (o1 * x[i] + o2 * x[i+1] + o3 * x[i+2] - y[i]) * x[i+2]
    print(o1 * x[i] + o2 * x[i+1] + o3 * x[i+2],y[i])
 
print(o1,o2,o3)

結果：

機器學習之--梯度下降和最小二乘法算線性回歸