1. 程式人生 > >tensorflow學習(2.網路模型的儲存以及提取)

tensorflow學習(2.網路模型的儲存以及提取)

第一篇學習了CNN網路的構建以及程式碼的基礎結構,第二篇則是實際專案過程中需要的網路模型的儲存

先放上儲存的程式碼:

#tf可以認為是全域性變數,從該變數為類,從中取input_data變數
import tensorflow.examples.tutorials.mnist.input_data as input_data
import tensorflow as tf
import sys
#讀取資料集
mnist = input_data.read_data_sets("MNIST_data/",one_hot=True)
"""
#softmax方法進行訓練
#這裡是變數的佔位符,一般是輸入輸出使用該部分
x=tf.placeholder(tf.float32,[None,784])
y_=tf.placeholder("float",[None,10])

#定義引數變數
W=tf.Variable(tf.zeros([784,10]))
b=tf.Variable(tf.zeros([10]))
y=tf.nn.softmax(tf.matmul(x,W)+b)

#評價函式
cross_entropy=-tf.reduce_sum(y_*tf.log(y))
train_step=tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)




#啟動模型,Session建立這樣一個物件,然後指定某種操作,並實際進行該步
init=tf.initialize_all_variables()
sess=tf.Session()
sess.run(init)

#資料讀取部分
for i in range(1000):
    batch_xs, batch_ys = mnist.train.next_batch(50)
    #run第一個引數是fetch,可以是tensor也可以是Operation,第二個feed_dict是替換tensor的值
    sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})
    print(batch_xs,batch_ys,i)

correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))
print (sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))


"""







#這裡用CNN方法進行訓練
#函式定義部分
def weight_variable(shape):
    initial=tf.truncated_normal(shape,stddev=0.1)#隨機權重賦值,不過truncated_normal代表如果是2倍標準差之外的結果重新選取該值
    return tf.Variable(initial)

def bias_variable(shape):
    initial=tf.constant(0.1,shape=shape)#偏置項
    return tf.Variable(initial)

def conv2d(x,W):
    return tf.nn.conv2d(x,W,strides=[1,1,1,1],padding='SAME')#SAME表示輸出補邊,這裡輸出與輸入尺寸一致

def max_pool_2x2(x):
    return tf.nn.max_pool(x,ksize=[1,2,2,1],strides=[1,2,2,1],padding='SAME')#ksize代表池化範圍的大小,stride為掃描步長






# 這裡是變數的佔位符,一般是輸入輸出使用該部分
x=tf.placeholder(tf.float32,[None,784])
y_=tf.placeholder("float",[None,10])
x_image=tf.reshape(x,[-1,28,28,1])#-1表示自動計算該維度
#建立第一層
W_conv1=weight_variable([5,5,1,32])
b_conv1=bias_variable([32])
h_conv1=tf.nn.relu(conv2d(x_image,W_conv1)+b_conv1)
h_pool1=max_pool_2x2(h_conv1)
#第二層
W_conv2=weight_variable([5,5,32,64])
b_conv2=bias_variable([64])
h_conv2=tf.nn.relu(conv2d(h_pool1,W_conv2)+b_conv2)
h_pool2=max_pool_2x2(h_conv2)


#第三層,而且這裡是全連線層
W_fc1=weight_variable([7*7*64,1024])
b_fc1=bias_variable([1024])

h_pool2_flat=tf.reshape(h_pool2,[-1,7*7*64])
h_fc1=tf.nn.relu(tf.matmul(h_pool2_flat,W_fc1)+b_fc1)
#dropout,注意這裡也是有一個輸入引數的,和x以及y一樣
keep_prob=tf.placeholder(tf.float32)
h_fc1_drop=tf.nn.dropout(h_fc1,keep_prob)

W_fc2=weight_variable([1024,10])
b_fc2=bias_variable([10])
y_conv=tf.nn.softmax(tf.matmul(h_fc1_drop,W_fc2)+b_fc2)


# 評價函式
cross_entropy=-tf.reduce_sum(y_*tf.log(y_conv))
train_step=tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)
correct_prediction=tf.equal(tf.argmax(y_conv,1),tf.argmax(y_,1))
accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))


# 啟動模型,Session建立這樣一個物件,然後指定某種操作,並實際進行該步
init=tf.initialize_all_variables()
sess=tf.Session()
sess.run(init)



#資料讀取部分
for i in range(1000):

    batch_xs, batch_ys = mnist.train.next_batch(50)#這裡貌似是代表讀取50張影象資料
    #run第一個引數是fetch,可以是tensor也可以是Operation,第二個feed_dict是替換tensor的值
    '''
    if i % 10 == 0:
        train_accuracy = accuracy.eval(feed_dict={x: batch_xs, y_: batch_ys, keep_prob: 0.5})
        print("step:%d,accuracy:%g" % (i, train_accuracy))
    '''
    sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys, keep_prob: 0.5})#sess.run第一個引數是想要執行的位置,一般有train,accuracy,initdeng
    #第二個引數feed_dict,一般是輸入引數,該程式碼裡有x,y以及drop的引數
    if i%20==0 :
        print(i)
        print("train accuracy:%g"%sess.run(accuracy, feed_dict={x: batch_xs, y_: batch_ys, keep_prob: 0.5}))
print("test accuracy:%g"%sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels, keep_prob: 1}))



#儲存模型
model_path='MNIST_model/simple_mnist.ckpt'
saver=tf.train.Saver()
saver_path=saver.save(sess,model_path)
print("model saved in file:", saver_path)

儲存的程式碼實際上只有後半部分,前面的程式碼是第一篇中講到的。