1. 程式人生 > >基於tensorflow的簡單BP神經網路的結構搭建

基於tensorflow的簡單BP神經網路的結構搭建

tensorflow的構建封裝的更加完善,可以任意加入中間層,只要注意好維度即可,不過numpy版的神經網路程式碼經過適當地改動也可以做到這一點,這裡最重要的思想就是層的模型的分離。下面介紹關於tensorflow的構建神經網路的方法,特此記錄。

  1. import tensorflow as tf   
  2. import numpy as np   
  3. def addLayer(inputData,inSize,outSize,activity_function = None):  
  4.     Weights = tf.Variable(tf.random_normal([inSize,outSize]))   
  5.     basis = tf.Variable(tf.zeros([1,outSize])+0.1)    
  6.     weights_plus_b = tf.matmul(inputData,Weights)+basis  
  7.     if activity_function isNone:  
  8.         ans = weights_plus_b  
  9.     else:  
  10.         ans = activity_function(weights_plus_b)  
  11.     return ans  
  12. x_data = np.linspace(-1,1,300)[:,np.newaxis] 
    # 轉為列向量
  13. noise = np.random.normal(0,0.05,x_data.shape)  
  14. y_data = np.square(x_data)+0.5+noise  
  15. xs = tf.placeholder(tf.float32,[None,1]) # 樣本數未知,特徵數為1,佔位符最後要以字典形式在執行中填入
  16. ys = tf.placeholder(tf.float32,[None,1])  
  17. l1 = addLayer(xs,1,10,activity_function=tf.nn.relu) # relu是激勵函式的一種
  18. l2 = addLayer(l1,10,1,activity_function=
    None)  
  19. loss = tf.reduce_mean(tf.reduce_sum(tf.square((ys-l2)),reduction_indices = [1]))#需要向相加索引號,redeuc執行跨緯度操作
  20. train =  tf.train.GradientDescentOptimizer(0.1).minimize(loss) # 選擇梯度下降法
  21. init = tf.initialize_all_variables()  
  22. sess = tf.Session()  
  23. sess.run(init)  
  24. for i in range(10000):  
  25.     sess.run(train,feed_dict={xs:x_data,ys:y_data})  
  26.     if i%50 == 0:  
  27.         print sess.run(loss,feed_dict={xs:x_data,ys:y_data})