2. 程式人生 > >tensorflow儲存和載入模型

tensorflow儲存和載入模型

阿新 • • 發佈：2018-12-16
×

TF 儲存和載入模型

    <!-- 作者區域 -->
    <div class="author">
      <a class="avatar" href="/u/ff5ca6d0e88f">
        <img src="//upload.jianshu.io/users/upload_avatars/1961389/907e515783a4.png?imageMogr2/auto-orient/strip|imageView2/1/w/96/h/96" alt="96">
阿o醒 2017.09.09 16:11*
字數 795 閱讀 2047評論 0 
    <!-- 文章內容 -->
    <div data-note-content="" class="show-content">
      <div class="show-content-free">
        <p><a href="https://link.jianshu.com?t=http://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/" target="_blank" rel="nofollow">A quick complete tutorial to save and restore Tensorflow models</a></p>

儲存檔案介紹

Tensorflow 模型有兩個主要的檔案：

  1. meta graph This is a protocol buffer which saves the complete Tensorflow graph; i.e. all variables, operations, collections etc. This file has .meta extension. 這是一個 protocol buffer（不會翻譯）儲存了完整的 Tensorflow 圖，即所有變數、操作和集合等。擁有一個.meta的副檔名。
  2. checkpoint file This is a binary file which contains all the values of the weights, biases, gradients and all the other variables saved. This file has an extension .ckpt. However, Tensorflow has changed this from version 0.11. Now, instead of single .ckpt file, we have two files: 這是一個二進位制檔案包含了所有權重、偏置、梯度和其他變數的值。這個檔案有一個.ckpt
    的副檔名。在0.11版本以前只有一個檔案，現在有兩個。
mymodel.data-00000-of-00001
mymodel.index

.data file is the file that contains our training variables and we shall go after it. .data檔案包含了我們所有訓練的變數。

Along with this, Tensorflow also has a file named checkpoint which simply keeps a record of latest checkpoint files saved. 於此一起的，Tensorflow 還有一個檔案叫做checkpoint只是單純記錄了最近的儲存的ckeckpoint file

所以，儲存的模型像下圖類似。

模型幾大要件 備註：可以沒有graph檔案，但是checkpoint一定要有，不然tf.train.get_checkpoint_state或者tf.train.latest_checkpoint會找不到檔案。

儲存程式碼

import tensorflow as tf
w1 = tf.Variable(tf.random_normal(shape=[2]), name='w1')
w2 = tf.Variable(tf.random_normal(shape=[5]), name='w2')
saver = tf.train.Saver()
sess = tf.Session()
sess.run(tf.global_variables_initializer())
saver.save(sess, 'my_test_model')

# This will save following files in Tensorflow v >= 0.11 # my_test_model.data-00000-of-00001 # my_test_model.index # my_test_model.meta # checkpoint

If we are saving the model after 1000 iterations, we shall call save by passing the step count: 如果我們在1000次迭代後儲存模型，我們把迭代次數傳給儲存函式

saver.save(sess, 'my_test_model',global_step=1000)

This will just append ‘-1000’ to the model name and following files will be created: 這樣會在儲存檔案後加入-1000在模型名字後面。

my_test_model-1000.index
my_test_model-1000.meta
my_test_model-1000.data-00000-of-00001
checkpoint

if you want to keep only 4 latest models and want to save one model after every 2 hours during training you can use max_to_keep and keep_checkpoint_every_n_hours like this. 如果你只想儲存四個模型並且兩個小時儲存模型一次，你可以使用max_to_keep和keep_checkpoint_every_n_hours

#saves a model every 2 hours and maximum 4 latest models are saved.
saver = tf.train.Saver(max_to_keep=4, keep_checkpoint_every_n_hours=2)

匯入預訓練好的模型

If you want to use someone else’s pre-trained model for fine-tuning, there are two things you need to do: 如果你想用別人預訓練好的模型進行fine-tuning，有兩件事情需要做。

  1. 創造網路 you can create the network by writing python code to create each and every layer manually as the original model. However, if you think about it, we had saved the network in .meta file which we can use to recreate the network using tf.train.import() function like this: saver = tf.train.import_meta_graph('my_test_model-1000.meta') 你可以通過python寫好和原來模型一樣的每一層程式碼來創造網路，可是，仔細一想，我們已經通過.metaa把網路儲存起來，我們可以用來再創造網路使用tf.train.import()語句。
 saver = tf.train.import_meta_graph('my_test_model-1000.meta')

Remember, import_meta_graph appends the network defined in .meta file to the current graph. So, this will create the graph/network for you but we still need to load the value of the parameters that we had trained on this graph. 記住，import_meta_graph將定義在.meta的網路匯入到當前圖中。所以，這會替你創造圖/網路，但我們仍然需要匯入在這張圖上訓練好的引數。

  1. 載入引數 We can restore the parameters of the network by calling restore on this saver which is an instance of tf.train.Saver() class. 我們可以恢復網路的引數，通過使用saver，它是tf.train.Saver()類的一個例項。
with tf.Session() as sess:
  new_saver = tf.train.import_meta_graph('my_test_model-1000.meta')
  new_saver.restore(sess, tf.train.latest_checkpoint('./'))

      </div>
    </div>
</div>

<!-- 如果是付費文章，未購買，則顯示購買按鈕 -->

<!-- 連載目錄項 -->

<!-- 如果是付費文章 -->
  <!-- 如果是付費連載，已購買，且作者允許讚賞，則顯示付費資訊和讚賞 -->
    <div id="free-reward-panel" class="support-author"><p>小禮物走一走，來簡書關注我</p> <div class="btn btn-pay">讚賞支援</div> <div class="supporter"><ul class="support-list"></ul> <!----></div> <!----> <!----></div>

  <div class="show-foot">
    <a class="notebook" href="/nb/7917014">
      <i class="iconfont ic-search-notebook"></i>
      <span>Theano &amp; TF</span>
舉報文章 
  <!-- 文章底部作者資訊 -->
    <div class="follow-detail">
      <div class="info">
        <a class="avatar" href="/u/ff5ca6d0e88f">
          <img src="//upload.jianshu.io/users/upload_avatars/1961389/907e515783a4.png?imageMogr2/auto-orient/strip|imageView2/1/w/96/h/96" alt="96">

阿o醒

寫了 16971 字，被 7 人關注，獲得了 12 個喜歡

這傢伙很爛，什麼都沒有留下。 
<div class="meta-bottom">
  <div data-v-6ddd02c6="" class="like"><div data-v-6ddd02c6="" class="btn like-group"><div data-v-6ddd02c6="" class="btn-like"><a data-v-6ddd02c6="">喜歡</a></div> <div data-v-6ddd02c6="" class="modal-wrap"><a data-v-6ddd02c6="">1</a></div></div> <!----></div>
  <div class="share-group">
    <a class="share-circle" data-action="weixin-share" data-toggle="tooltip" data-original-title="分享到微信">
      <i class="iconfont ic-wechat"></i>
    </a>
    <a class="share-circle" data-action="weibo-share" data-toggle="tooltip" href="javascript:void((function(s,d,e,r,l,p,t,z,c){var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&amp;url=',e(u),'&amp;title=',e(t||d.title),'&amp;source=',e(r),'&amp;sourceUrl=',e(l),'&amp;content=',c||'gb2312','&amp;pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','', '推薦 阿o醒 的文章《TF 儲存和載入模型》（ 分享自 @簡書 ）','https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=weibo','頁面編碼gb2312|utf-8預設gb2312'));" data-original-title="分享到微博">
      <i class="iconfont ic-weibo"></i>
    </a>
    <a class="share-circle" data-toggle="tooltip" id="longshare" target="_blank" data-original-title="" title="">
        <div class="qrcode" id="qrcode">
         <img src="//cdn2.jianshu.io/assets/web/download-index-side-qrcode-cb13fc9106a478795f8d10f9f632fccf.png" alt="Download index side qrcode">
         <p>下載app生成長微博圖片</p>
         </div>
      <i class="iconfont ic-picture"></i>
    </a>
    <a class="share-circle more-share" tabindex="0" data-toggle="popover" data-placement="top" data-html="true" data-trigger="focus" href="javascript:void(0);" data-content="
      <ul class=&quot;share-list&quot;>
        <li><a href=&quot;javascript:void(function(){var d=document,e=encodeURIComponent,r='http://sns.qzone.qq.com/cgi-bin/qzshare/cgi_qzshare_onekey?url='+e('https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=qzone')+'&amp;title='+e('推薦 阿o醒 的文章《TF 儲存和載入模型》'),x=function(){if(!window.open(r,'qzone','toolbar=0,resizable=1,scrollbars=yes,status=1,width=600,height=600'))location.href=r};if(/Firefox/.test(navigator.userAgent)){setTimeout(x,0)}else{x()}})();&quot;><i class=&quot;social-icon-sprite social-icon-zone&quot;></i><span>分享到QQ空間</span></a></li>
        <li><a href=&quot;javascript:void(function(){var d=document,e=encodeURIComponent,r='https://twitter.com/share?url='+e('https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=twitter')+'&amp;text='+e('推薦 阿o醒 的文章《TF 儲存和載入模型》（ 分享自 @jianshucom ）')+'&amp;related='+e('jianshucom'),x=function(){if(!window.open(r,'twitter','toolbar=0,resizable=1,scrollbars=yes,status=1,width=600,height=600'))location.href=r};if(/Firefox/.test(navigator.userAgent)){setTimeout(x,0)}else{x()}})();&quot;><i class=&quot;social-icon-sprite social-icon-twitter&quot;></i><span>分享到Twitter</span></a></li>
        <li><a href=&quot;javascript:void(function(){var d=document,e=encodeURIComponent,r='https://www.facebook.com/dialog/share?app_id=483126645039390&amp;display=popup&amp;href=https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=facebook',x=function(){if(!window.open(r,'facebook','toolbar=0,resizable=1,scrollbars=yes,status=1,width=450,height=330'))location.href=r};if(/Firefox/.test(navigator.userAgent)){setTimeout(x,0)}else{x()}})();&quot;><i class=&quot;social-icon-sprite social-icon-facebook&quot;></i><span>分享到Facebook</span></a></li>
        <li><a href=&quot;javascript:void(function(){var d=document,e=encodeURIComponent,r='https://plus.google.com/share?url='+e('https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=google_plus'),x=function(){if(!window.open(r,'google_plus','toolbar=0,resizable=1,scrollbars=yes,status=1,width=450,height=330'))location.href=r};if(/Firefox/.test(navigator.userAgent)){setTimeout(x,0)}else{x()}})();&quot;><i class=&quot;social-icon-sprite social-icon-google&quot;></i><span>分享到Google+</span></a></li>
        <li><a href=&quot;javascript:void(function(){var d=document,e=encodeURIComponent,s1=window.getSelection,s2=d.getSelection,s3=d.selection,s=s1?s1():s2?s2():s3?s3.createRange().text:'',r='http://www.douban.com/recommend/?url='+e('https://www.jianshu.com/p/8850127ed25d?utm_campaign=maleskine&amp;utm_content=note&amp;utm_medium=reader_share&amp;utm_source=douban')+'&amp;title='+e('TF 儲存和載入模型')+'&amp;sel='+e(s)+'&amp;v=1',x=function(){if(!window.open(r,'douban','toolbar=0,resizable=1,scrollbars=yes,status=1,width=450,height=330'))location.href=r+'&amp;r=1'};if(/Firefox/.test(navigator.userAgent)){setTimeout(x,0)}else{x()}})()&quot;><i class=&quot;social-icon-sprite social-icon-douban&quot;></i><span>分享到豆瓣</span></a></li>
      </ul>
    " data-original-title="" title="">更多分享</a>
  </div>
</div>
  <a id="web-note-ad-1" target="_blank" href="/apps/redirect?utm_source=note-bottom-click"><img src="//cdn2.jianshu.io/assets/web/web-note-ad-1-c2e1746859dbf03abe49248893c9bea4.png" alt="Web note ad 1"></a>
<div><div id="comment-list" class="comment-list"><div><form class="new-comment"><a class="avatar"><img src="//cdn2.jianshu.io/assets/default_avatar/avatar_default-78d4d1f68984cd6d4379508dd94b4210.png"></a> <div class="sign-container"><a href="/sign_in?utm_source=desktop&amp;utm_medium=not-signed-in-comment-form" class="btn btn-sign">登入</a> <span>後發表評論</span></div></form> <!----></div> <!----> <div class="comments-placeholder" style="display: none;"><div class="author"><div class="avatar"></div> <div class="info"><div class="name"></div> <div class="meta"></div></div></div> <div class="text"></div> <div class="text animation-delay"></div> <div class="tool-group"><i class="iconfont ic-zan-active"></i><div class="zan"></div> <i class="iconfont ic-list-comments"></i><div class="zan"></div></div></div> <div id="normal-comment-list" class="normal-comment-list"><div><!----> <div><div class="top-title"><span>評論</span> <a class="close-btn" style="display: none;">關閉評論</a></div> <div class="no-comment"></div> <div class="text">
        智慧如你，不想<a href="/sign_in?utm_source=desktop&amp;utm_medium=not-signed-in-nocomments-text">發表一點想法</a>咩~
      </div></div> <!----> <div class="comments-placeholder" style="display: none;"><div class="author"><div class="avatar"></div> <div class="info"><div class="name"></div> <div class="meta"></div></div></div> <div class="text"></div> <div class="text animation-delay"></div> <div class="tool-group"><i class="iconfont ic-zan-active"></i><div class="zan"></div> <i class="iconfont ic-list-comments"></i><div class="zan"></div></div></div> </div></div> <!----> <div><!----></div></div></div>

相關推薦

tensorflow儲存和載入模型

× TF 儲存和載入模型 <!-- 作者區域 --> <div class="author"> <a class="avatar" href="/u/ff5c

tensorflow 儲存和載入模型 -2

1、 我們經常在訓練完一個模型之後希望儲存訓練的結果，這些結果指的是模型的引數，以便下次迭代的訓練或者用作測試。Tensorflow針對這一需求提供了Saver類。 Saver類提供了向checkpoints檔案儲存和從checkpoints檔案中恢復變數的相關方法。C

TensorFlow儲存和載入訓練模型

儲存：使用saver.save()方法儲存 載入：使用saver.restore()方法載入 下面是個完整例子： 儲存： import tensorflow as tf W = tf.Variable([[1, 1, 1], [2, 2, 2]], dtype=tf.float

深度學習框架Tensorflow學習與應用(八 儲存和載入模型，使用Google的影象識別網路inception-v3進行影象識別)

一 模型的儲存 [email protected]:~/tensorflow$ cat 8-1saver_save.py # coding: utf-8 # In[1]: import tensorflow as tf from tensorflow.examples.tutorials

tensorflow儲存和載入訓練好的模型

儲存模型 saver = tf.train.Saver()建立一個saver物件 saver.save(sess,'path')將模型儲存在指定的path路徑中 該路徑中生成的檔案有四個， checkpoint檔案儲存了一個錄下多有的模型檔案列表， model.ckpt.

Tensorflow實現簡單的一元線性迴歸並儲存和載入模型

簡介：本文章以tensorflow為平臺建立了一個簡單的線性迴歸模型，並得到了不錯的效果。同時實現了模型的儲存與載入，當一個模型的訓練時間非常長的時候，利用模型的載入可以實現開啟程式時接著上次訓練。 平臺：Python 3.6 IDE：Pycharm 一、

TensorFlow SavedModel儲存和載入模型

宣告： SavedModel 如果你想儲存或恢復模型，我們推薦使用SaveModel. SaveModel是一種與語言無關，可恢復的密封式序列化格式。TensorFlow提供了多種與SavedModel互動的機制，如tf.saved_model API、

Pytorch 儲存和載入模型 part2

搭建網路： torch.manual_seed(1) # reproducible # 假資料 x = torch.unsqueeze(torch.linspace(-1, 1, 100), dim=1) # x data (tensor), shape=(100, 1) y = x.p

基於pytorch的 儲存和載入模型引數

當我們花費大量的精力訓練完網路，下次預測資料時不想再（有時也不必再）訓練一次時，這時候torch.save(),torch.load()就要登場了。 儲存和載入模型引數有兩種方式： 方式一：   torch.save(net.state_dict(),path): 功能

TensorFlow儲存和提取模型

一、模型的儲存 將訓練好的模型引數儲存起來，以便以後進行驗證或測試，這是我們經常要做的事情。tf裡面提供模型儲存的是tf.train.Saver()模組。 1、模型儲存，先要建立一個Saver物件：如 saver=tf.train.Saver() __init__( var_

儲存和載入模型

在訓練模型過程中，由於資料集較大，模型訓練迭代次數較多等原因，使得模型訓練較耗時，因此將訓練好的模型進行儲存以便下次直接使用是很有必要，下面介紹兩種模型的儲存和載入方法 1.使用pickle模組      （1）儲存模型       with open（“模型儲存的位置

keras訓練淺層卷積網路並儲存和載入模型

這裡我們使用keras定義簡單的神經網路全連線層訓練MNIST資料集和cifar10資料集： keras_mnist.py from sklearn.preprocessing import LabelBinarizer from sklearn.model_select

pytorch學習筆記（五）：儲存和載入模型

# 儲存和載入整個模型 torch.save(model_object, 'model.pkl') model = torch.load('model.pkl') # 僅儲存和載入模型引數(推薦使

Tensorflow儲存和讀取模型

1.概述 將深度學習應用到工業領域實時處理資料時，我們需要訓練好的模型實時計算，那就需要儲存和讀取模型，tensorflow目前提供了這方面的初步工作。因為tensorflow只能儲存變數而不是儲存整個網路，所以在提取模型時，我們還需要重新第一網路結構。

TensorFlow儲存、載入模型引數 | 原理描述及踩坑經驗總結

寫在前面 我之前使用的LSTM計算單元是根據其前向傳播的計算公式手動實現的，這兩天想要和TensorFlow自帶的tf.nn.rnn_cell.BasicLSTMCell()比較一下，看看哪個訓練速度快一些。在使用tf.nn.rnn_cell.BasicLSTMCell()進行建模的時候，遇到了模型儲存、載入

【學習筆記】Hands-on ML with sklearn&tensorflow [TF] [1]模型的訓練、儲存和載入

本篇內容：一個簡單的預測模型的建立、訓練、儲存和載入。 匯入必要模組： import numpy as np import pandas as pd import tensorflow as tf import ssl #解決資料來源網站簽名認證失敗的問題 from sklearn.data

使用tensorflow儲存、載入和使用模型

使用Tensorflow進行深度學習訓練的時候，需要對訓練好的網路模型和各種引數進行儲存，以便在此基礎上繼續訓練或者使用。介紹這方面的部落格有很多，我發現寫的最好的是這一篇官方英文介紹： 我對這篇文章進行了整理和彙總。 首先是模型的儲存。直接上程式碼： #!/usr/bi

tensorflow-模型儲存和載入（一）

模型儲存和載入（一）TensorFlow的模型格式有很多種，針對不同場景可以使用不同的格式。格式簡介Checkpoint用於儲存模型的權重，主要用於模型訓練過程中引數的備份和模型訓練熱啟動。GraphD

pytorch 模型的儲存和載入

本文轉至：https://byjiang.com/2017/06/05/How_To_Save_And_Restore_Model/ 在模型完成訓練後，我們需要將訓練好的模型儲存為一個檔案供測試使用，或者因為一些原因我們需要繼續之前的狀態訓練之前儲存的模型，那麼如何在PyTorch中儲存和恢復模型

pytorch筆記02)模型的儲存和載入

儲存和載入整個模型 torch.save(model_object, 'model.pkl') model = torch.load('model.pkl') 僅儲存和載入模型引數(推薦使用,需要提前手動構建模型) torch.save(model_object.state_