2. 程式人生 > >TensorFlow2.0（六）：Dataset

TensorFlow2.0（六）：Dataset

阿新 • • 發佈：2019-10-14

 

在整個機器學習過程中，除了訓練模型外，應該就屬資料預處理過程消耗的精力最多，資料預處理過程需要完成的任務包括資料讀取、過濾、轉換等等。為了將使用者從繁雜的預處理操作中解放處理，更多地將精力放在演算法建模上，TensorFlow中提供了data模組，這一模組以多種方式提供了資料讀取、資料處理、資料儲存等功能。本文重點是data模組中的Dataset物件。

 

1 建立¶

 

對於建立Dataset物件，官方文件中總結為兩種方式，我將這兩種方式細化後總結為4中方式：

（1）通過Dataset中的range()方法建立包含一定序列的Dataset物件。

  • range()

range()方法是Dataset內部定義的一個的靜態方法，可以直接通過類名呼叫。另外，Dataset中的range()方法與Python本身內建的range()方法接受引數形式是一致的，可以接受range(begin)、range(begin, end)、range（begin, end, step）等多種方式傳參。

In [1]: 
import tensorflow as tf
import numpy as np
In [2]: 
dataset1 = tf.data.Dataset.range(5)
type(dataset1)
Out[2]: 
tensorflow.python.data.ops.dataset_ops.RangeDataset
 

注：RangeDataset是Dataset的一個子類。 Dataset物件屬於可迭代物件，可通過迴圈進行遍歷：

In [3]: 
for i in dataset1:
    print(i)
    print(i.numpy())
  
tf.Tensor(0, shape=(), dtype=int64)
0
tf.Tensor(1, shape=(), dtype=int64)
1
tf.Tensor(2, shape=(), dtype=int64)
2
tf.Tensor(3, shape=(), dtype=int64)
3
tf.Tensor(4, shape=(), dtype=int64)
4
 

可以看到，range()方法建立的Dataset物件內部每一個元素都以Tensor物件的形式存在，可以通過numpy()方法訪問真實值。

  • from_generator()

如果你覺得range()方法不夠靈活，功能不夠強大，那麼你可以嘗試使用from_generator()方法。from_generator()方法接收一個可呼叫的生成器函式最為引數，在遍歷from_generator()方法返回的Dataset物件過程中不斷生成新的資料，減少記憶體佔用，這在大資料集中很有用。

In [4]: 
def count(stop):
  i = 0
  while i<stop:
    print('第%s次呼叫……'%i)
    yield i
    i += 1
In [5]: 
dataset2 = tf.data.Dataset.from_generator(count, args=[3], output_types=tf.int32, output_shapes = (), )
In [6]: 
a = iter(dataset2)
In [7]: 
next(a)
  
第0次呼叫……
Out[7]: 
<tf.Tensor: id=46, shape=(), dtype=int32, numpy=0>
In [8]: 
next(a)
  
第1次呼叫……
Out[8]: 
<tf.Tensor: id=47, shape=(), dtype=int32, numpy=1>
In [9]: 
for i in dataset2:
    print(i)
    print(i.numpy())
  
第0次呼叫……
tf.Tensor(0, shape=(), dtype=int32)
0
第1次呼叫……
tf.Tensor(1, shape=(), dtype=int32)
1
第2次呼叫……
tf.Tensor(2, shape=(), dtype=int32)
2
 

（2）通過接收其他型別的集合類物件建立Dataset物件。這裡所說的集合型別物件包含Python內建的list、tuple，numpy中的ndarray等等。這種建立Dataset物件的方法大多通過from_tensors()和from_tensor_slices()兩個方法實現。這兩個方法很常用，重點說一說。

  • from_tensors()
    from_tensors()方法接受一個集合型別物件作為引數，返回值為一個TensorDataset型別物件，物件內容、shape因傳入引數型別而異。
 

當接收引數為list或Tensor物件時，返回的情況是一樣的，因為TensorFlow內部會將list先轉為Tensor物件，然後例項化一個Dataset物件：

In [10]: 
a = [0,1,2,3,4]
dataset1 = tf.data.Dataset.from_tensors(a)
dataset1_n = tf.data.Dataset.from_tensors(np.array(a))
dataset1_t = tf.data.Dataset.from_tensors(tf.constant(a))
In [11]: 
dataset1,next(iter(dataset1))
Out[11]: 
(<TensorDataset shapes: (5,), types: tf.int32>,
 <tf.Tensor: id=67, shape=(5,), dtype=int32, numpy=array([0, 1, 2, 3, 4], dtype=int32)>)
In [12]: 
dataset1_n,next(iter(dataset1_n))
Out[12]: 
(<TensorDataset shapes: (5,), types: tf.int64>,
 <tf.Tensor: id=73, shape=(5,), dtype=int64, numpy=array([0, 1, 2, 3, 4])>)
In [13]: 
dataset1_t,next(iter(dataset1_t))
Out[13]: 
(<TensorDataset shapes: (5,), types: tf.int32>,
 <tf.Tensor: id=79, shape=(5,), dtype=int32, numpy=array([0, 1, 2, 3, 4], dtype=int32)>)
 

多維結構也是一樣的：

In [14]: 
a = [0,1,2,3,4]
b = [5,6,7,8,9]
dataset2 = tf.data.Dataset.from_tensors([a,b])
dataset2_n = tf.data.Dataset.from_tensors(np.array([a,b]))
dataset2_t = tf.data.Dataset.from_tensors(tf.constant([a,b]))
In [15]: 
dataset2,next(iter(dataset2))
Out[15]: 
(<TensorDataset shapes: (2, 5), types: tf.int32>,
 <tf.Tensor: id=91, shape=(2, 5), dtype=int32, numpy=
 array([[0, 1, 2, 3, 4],
        [5, 6, 7, 8, 9]], dtype=int32)>)
In [16]: 
dataset2_n,next(iter(dataset2_n))
Out[16]: 
(<TensorDataset shapes: (2, 5), types: tf.int64>,
 <tf.Tensor: id=97, shape=(2, 5), dtype=int64, numpy=
 array([[0, 1, 2, 3, 4],
        [5, 6, 7, 8, 9]])>)
In [17]: 
dataset2_t,next(iter(dataset2_t))
Out[17]: 
(<TensorDataset shapes: (2, 5), types: tf.int32>,
 <tf.Tensor: id=103, shape=(2, 5), dtype=int32, numpy=
 array([[0, 1, 2, 3, 4],
        [5, 6, 7, 8, 9]], dtype=int32)>)
 

當接收引數為陣列就不一樣了，此時Dataset內部內容為一個tuple，tuple的元素是原來tuple元素轉換為的Tensor物件：

In [18]: 
a = [0,1,2,3,4]
b = [5,6,7,8,9]
dataset3 = tf.data.Dataset.from_tensors((a,b))
In [19]: 
for i in dataset3:
    print(type(i))
    print(i)
    for j in i:
        print(j)
  
<class 'tuple'>
(<tf.Tensor: id=112, shape=(5,), dtype=int32, numpy=array([0, 1, 2, 3, 4], dtype=int32)>, <tf.Tensor: id=113, shape=(5,), dtype=int32, numpy=array([5, 6, 7, 8, 9], dtype=int32)>)
tf.Tensor([0 1 2 3 4], shape=(5,), dtype=int32)
tf.Tensor([5 6 7 8 9], shape=(5,), dtype=int32)
 
  • from_tensor_slices()
    from_tensor_slices()方法返回一個TensorSliceDataset類物件，TensorSliceDataset物件比from_tensors()方法返回的TensorDataset物件支援更加豐富的操作，例如batch操作等，因此在實際應用中更加廣泛。返回的TensorSliceDataset物件內容、shape因傳入引數型別而異。
 

當傳入一個list時，時將list中元素逐個轉換為Tensor物件然後依次放入Dataset中，所以Dataset中有多個Tensor物件：

In [20]: 
a = [0,1,2,3,4]
dataset1 = tf.data.Dataset.from_tensor_slices(a)
In [21]: 
dataset1
Out[21]: 
<TensorSliceDataset shapes: (), types: tf.int32>
In [22]: 
for i,elem in enumerate(dataset1):
    print(i, '-->', elem)
  
0 --> tf.Tensor(0, shape=(), dtype=int32)
1 --> tf.Tensor(1, shape=(), dtype=int32)
2 --> tf.Tensor(2, shape=(), dtype=int32)
3 --> tf.Tensor(3, shape=(), dtype=int32)
4 --> tf.Tensor(4, shape=(), dtype=int32)
In [23]: 
a = [0,1,2,3,4]
b = [5,6,7,8,9]
dataset2 = tf.data.Dataset.from_tensor_slices([a,b])
In [24]: 
dataset2
Out[24]: 
<TensorSliceDataset shapes: (5,), types: tf.int32>
In [25]: 
for i,elem in enumerate(dataset2):
    print(i, '-->', elem)
  
0 --> tf.Tensor([0 1 2 3 4], shape=(5,), dtype=int32)
1 --> tf.Tensor([5 6 7 8 9], shape=(5,), dtype=int32)
 

當傳入引數為tuple時，會將tuple中各元素轉換為Tensor物件，然後將第一維度對應位置的切片進行重新組合成一個tuple依次放入到Dataset中，所以在返回的Dataset中有多個tuple。這種形式在對訓練集和測試集進行重新組合是非常實用。

In [26]: 
a = [0,1,2,3,4]
b = [5,6,7,8,9]
dataset1 = tf.data.Dataset.from_tensor_slices((a,b))
In [27]: 
dataset1
Out[27]: 
<TensorSliceDataset shapes: ((), ()), types: (tf.int32, tf.int32)>
In [28]: 
for i in dataset1:
    print(i)
  
(<tf.Tensor: id=143, shape=(), dtype=int32, numpy=0>, <tf.Tensor: id=144, shape=(), dtype=int32, numpy=5>)
(<tf.Tensor: id=145, shape=(), dtype=int32, numpy=1>, <tf.Tensor: id=146, shape=(), dtype=int32, numpy=6>)
(<tf.Tensor: id=147, shape=(), dtype=int32, numpy=2>, <tf.Tensor: id=148, shape=(), dtype=int32, numpy=7>)
(<tf.Tensor: id=149, shape=(), dtype=int32, numpy=3>, <tf.Tensor: id=150, shape=(), dtype=int32, numpy=8>)
(<tf.Tensor: id=151, shape=(), dtype=int32, numpy=4>, <tf.Tensor: id=152, shape=(), dtype=int32, numpy=9>)
In [29]: 
c = ['a','b','c','d','e']
dataset3 = tf.data.Dataset.from_tensor_slices((a,b,c))
In [30]: 
dataset3
Out[30]: 
<TensorSliceDataset shapes: ((), (), ()), types: (tf.int32, tf.int32, tf.string)>
In [31]: 
for i in dataset3:
    print(i)
  
(<tf.Tensor: id=162, shape=(), dtype=int32, numpy=0>, <tf.Tensor: id=163, shape=(), dtype=int32, numpy=5>, <tf.Tensor: id=164, shape=(), dtype=string, numpy=b'a'>)
(<tf.Tensor: id=165, shape=(), dtype=int32, numpy=1>, <tf.Tensor: id=166, shape=(), dtype=int32, numpy=6>, <tf.Tensor: id=167, shape=(), dtype=string, numpy=b'b'>)
(<tf.Tensor: id=168, shape=(), dtype=int32, numpy=2>, <tf.Tensor: id=169, shape=(), dtype=int32, numpy=7>, <tf.Tensor: id=170, shape=(), dtype=string, numpy=b'c'>)
(<tf.Tensor: id=171, shape=(), dtype=int32, numpy=3>, <tf.Tensor: id=172, shape=(), dtype=int32, numpy=8>, <tf.Tensor: id=173, shape=(), dtype=string, numpy=b'd'>)
(<tf.Tensor: id=174, shape=(), dtype=int32, numpy=4>, <tf.Tensor: id=175, shape=(), dtype=int32, numpy=9>, <tf.Tensor: id=176, shape=(), dtype=string, numpy=b'e'>)
 

對比總結一下from_generator(）、from_tensor()、from_tensor_slices()這三個方法：

  • from_tensors()在形式上與from_tensor_slices()很相似，但其實from_tensors()方法出場頻率上比from_tensor_slices()差太多，因為from_tensor_slices()的功能更加符合實際需求，且返回的TensorSliceDataset物件也提供更多的資料處理功能。from_tensors()方法在接受list型別引數時，將整個list轉換為Tensor物件放入Dataset中，當接受引數為tuple時，將tuple內元素轉換為Tensor物件，然後將這個tuple放入Dataset中。
  • from_generator(）方法接受一個可呼叫的生成器函式作為引數，在遍歷Dataset物件時，通過通用生成器函式繼續生成新的資料供訓練和測試模型使用，這在大資料集合中很實用。
  • from_tensor_slices()方法接受引數為list時，將list各元素依次轉換為Tensor物件，然後依次放入Dataset中；更為常見的情況是接受的引數為tuple，在這種情況下，要求tuple中各元素第一維度長度必須相等，from_tensor_slices()方法會將tuple各元素第一維度進行拆解，然後將對應位置的元素進行重組成一個個tuple依次放入Dataset中，這一功能在重新組合資料集屬性和標籤時很有用。另外，from_tensor_slices()方法返回的TensorSliceDataset物件支援batch、shuffle等等功能對資料進一步處理。
 

（3）通過讀取磁碟中的檔案（文字、圖片等等）來建立Dataset。tf.data中提供了TextLineDataset、TFRecordDataset等物件來實現此功能。這部分內容比較多，也比較重要，我打算後續用專門一篇部落格來總結這部分內容。

 

2 功能函式¶

 

（1）take()

功能：用於返回一個新的Dataset物件，新的Dataset物件包含的資料是原Dataset物件的子集。

引數：

  • count：整型，用於指定前count條資料用於建立新的Dataset物件，如果count為-1或大於原Dataset物件的size,則用原Dataset物件的全部資料建立新的物件。
In [32]: 
dataset = tf.data.Dataset.range(10)
dataset_take = dataset.take(5)
In [33]: 
for i in dataset_take:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(3, shape=(), dtype=int64)
tf.Tensor(4, shape=(), dtype=int64)
 

（2）batch()

功能：將Dataset中連續的資料分割成批。

引數：

  • batch_size：在單個批次中合併的此資料集的連續元素數。
  • drop_remainder：如果最後一批的資料量少於指定的batch_size，是否拋棄最後一批，預設為False，表示不拋棄。
In [34]: 
dataset = tf.data.Dataset.range(11)
dataset_batch = dataset.batch(3)
In [35]: 
for i in dataset_batch:
    print(i)
  
tf.Tensor([0 1 2], shape=(3,), dtype=int64)
tf.Tensor([3 4 5], shape=(3,), dtype=int64)
tf.Tensor([6 7 8], shape=(3,), dtype=int64)
tf.Tensor([ 9 10], shape=(2,), dtype=int64)
In [36]: 
dataset_batch = dataset.batch(3,drop_remainder=True)
In [37]: 
for i in dataset_batch:
    print(i)
  
tf.Tensor([0 1 2], shape=(3,), dtype=int64)
tf.Tensor([3 4 5], shape=(3,), dtype=int64)
tf.Tensor([6 7 8], shape=(3,), dtype=int64)
In [38]: 
train_x = tf.random.uniform((10,3),maxval=100, dtype=tf.int32)
train_y = tf.range(10)
In [39]: 
dataset = tf.data.Dataset.from_tensor_slices((train_x, train_y))
In [40]: 
for i in dataset.take(3):
    print(i)
  
(<tf.Tensor: id=236, shape=(3,), dtype=int32, numpy=array([81, 53, 85], dtype=int32)>, <tf.Tensor: id=237, shape=(), dtype=int32, numpy=0>)
(<tf.Tensor: id=238, shape=(3,), dtype=int32, numpy=array([13,  7, 25], dtype=int32)>, <tf.Tensor: id=239, shape=(), dtype=int32, numpy=1>)
(<tf.Tensor: id=240, shape=(3,), dtype=int32, numpy=array([83, 25, 55], dtype=int32)>, <tf.Tensor: id=241, shape=(), dtype=int32, numpy=2>)
In [41]: 
dataset_batch = dataset.batch(4)
In [42]: 
for i in dataset_batch:
    print(i)
  
(<tf.Tensor: id=250, shape=(4, 3), dtype=int32, numpy=
array([[81, 53, 85],
       [13,  7, 25],
       [83, 25, 55],
       [53, 41, 11]], dtype=int32)>, <tf.Tensor: id=251, shape=(4,), dtype=int32, numpy=array([0, 1, 2, 3], dtype=int32)>)
(<tf.Tensor: id=252, shape=(4, 3), dtype=int32, numpy=
array([[41, 58, 39],
       [44, 68, 55],
       [52, 34, 22],
       [66, 39,  5]], dtype=int32)>, <tf.Tensor: id=253, shape=(4,), dtype=int32, numpy=array([4, 5, 6, 7], dtype=int32)>)
(<tf.Tensor: id=254, shape=(2, 3), dtype=int32, numpy=
array([[73,  8, 20],
       [67, 71, 98]], dtype=int32)>, <tf.Tensor: id=255, shape=(2,), dtype=int32, numpy=array([8, 9], dtype=int32)>)
 

為什麼在訓練模型時要將Dataset分割成一個個batch呢？

  • 對於小資料集是否使用batch關係不大，但是對於大資料集如果不分割成batch意味著將這個資料集一次性輸入模型中，容易造成記憶體爆炸。
  • 通過並行化提高記憶體的利用率。就是儘量讓你的GPU滿載執行，提高訓練速度。
  • 單個epoch的迭代次數減少了，引數的調整也慢了，假如要達到相同的識別精度，需要更多的epoch。
  • 適當Batch Size使得梯度下降方向更加準確。
 

（3）padded_batch()

功能： batch()的進階版，可以對shape不一致的連續元素進行分批。

引數：

  • batch_size：在單個批次中合併的此資料集的連續元素個數。
  • padded_shapes：tf.TensorShape或其他描述tf.int64向量張量物件，表示在批處理之前每個輸入元素的各個元件應填充到的形狀。如果引數中有None，則表示將填充為每個批次中該尺寸的最大尺寸。
  • padding_values：要用於各個元件的填充值。預設值0用於數字型別，字串型別則預設為空字元。
  • drop_remainder：如果最後一批的資料量少於指定的batch_size，是否拋棄最後一批，預設為False，表示不拋棄。
In [43]: 
dataset = tf.data.Dataset.range(10)
In [44]: 
dataset = dataset.map(lambda x: tf.fill([tf.cast(x, tf.int32)], x))
In [45]: 
dataset_padded = dataset.padded_batch(4, padded_shapes=(None,))
In [46]: 
for batch in dataset_padded:
    print(batch.numpy())
    print('---------------------')
  
[[0 0 0]
 [1 0 0]
 [2 2 0]
 [3 3 3]]
---------------------
[[4 4 4 4 0 0 0]
 [5 5 5 5 5 0 0]
 [6 6 6 6 6 6 0]
 [7 7 7 7 7 7 7]]
---------------------
[[8 8 8 8 8 8 8 8 0]
 [9 9 9 9 9 9 9 9 9]]
---------------------
In [47]: 
dataset_padded = dataset.padded_batch(4, padded_shapes=(10,),padding_values=tf.constant(9,dtype=tf.int64))  # 修改填充形狀和填充元素
In [48]: 
for batch in dataset_padded:
    print(batch.numpy())
    print('---------------------')
  
[[9 9 9 9 9 9 9 9 9 9]
 [1 9 9 9 9 9 9 9 9 9]
 [2 2 9 9 9 9 9 9 9 9]
 [3 3 3 9 9 9 9 9 9 9]]
---------------------
[[4 4 4 4 9 9 9 9 9 9]
 [5 5 5 5 5 9 9 9 9 9]
 [6 6 6 6 6 6 9 9 9 9]
 [7 7 7 7 7 7 7 9 9 9]]
---------------------
[[8 8 8 8 8 8 8 8 9 9]
 [9 9 9 9 9 9 9 9 9 9]]
---------------------
 

（4）map()

功能： 以dataset中每一位元素為引數執行pap_func()方法，這一功能在資料預處理中修改dataset中元素是很實用。

引數：

  • map_func:回撥方法。
In [49]: 
def change_dtype(t):  # 將型別修改為int32
    return tf.cast(t,dtype=tf.int32)
In [50]: 
dataset = tf.data.Dataset.range(3)
In [51]: 
for i in dataset:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
In [52]: 
dataset_map = dataset.map(change_dtype)
In [53]: 
for i in dataset_map:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int32)
tf.Tensor(1, shape=(), dtype=int32)
tf.Tensor(2, shape=(), dtype=int32)
 

map_func的引數必須對應dataset中的元素型別，例如，如果dataset中元素是tuple，map_func可以這麼定義：

In [54]: 
def change_dtype_2(t1,t2):
    return t1/10,tf.cast(t2,dtype=tf.int32)*(-1)  # 第一位元素除以10，第二為元素乘以-1
In [55]: 
dataset = tf.data.Dataset.from_tensor_slices((tf.range(3),tf.range(3)))
In [56]: 
dataset_map = dataset.map(change_dtype_2)
In [57]: 
for i in dataset_map:
    print(i)
  
(<tf.Tensor: id=347, shape=(), dtype=float64, numpy=0.0>, <tf.Tensor: id=348, shape=(), dtype=int32, numpy=0>)
(<tf.Tensor: id=349, shape=(), dtype=float64, numpy=0.1>, <tf.Tensor: id=350, shape=(), dtype=int32, numpy=-1>)
(<tf.Tensor: id=351, shape=(), dtype=float64, numpy=0.2>, <tf.Tensor: id=352, shape=(), dtype=int32, numpy=-2>)
 

（5）filter()

功能：對Dataset中每一個執行指定過濾方法進行過濾，返回過濾後的Dataset物件

引數：

  • predicate：過濾方法，返回值必須為True或False
In [58]: 
dataset = tf.data.Dataset.range(5)
In [59]: 
def filter_func(t):  # 過濾出值為偶數的元素
    if t % 2 == 0:
        return True
    else:
        return False
In [60]: 
dataset_filter = dataset.filter(filter_func)
In [61]: 
for i in dataset_filter:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(4, shape=(), dtype=int64)
 

（6）shuffle()

 

功能：隨機打亂資料

引數：

  • buffer_size：緩衝區大小，姑且認為是混亂程度吧，當值為1時，完全不打亂，當值為整個Dataset元素總數時，完全打亂。
  • seed：將用於建立分佈的隨機種子。
  • reshuffle_each_iteration：如果為true，則表示每次迭代資料集時都應進行偽隨機重排，預設為True。
In [62]: 
dataset = tf.data.Dataset.range(5)
In [63]: 
dataset_s = dataset.shuffle(1)
In [64]: 
for i in dataset_s:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(3, shape=(), dtype=int64)
tf.Tensor(4, shape=(), dtype=int64)
In [65]: 
dataset_s = dataset.shuffle(5)
In [66]: 
for i in dataset_s:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(4, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(3, shape=(), dtype=int64)
 

（7）repeat()

功能：對Dataset中的資料進行重複，以建立新的Dataset

引數：

  • count：重複次數，預設為None，表示不重複，當值為-1時，表示無限重複。
In [67]: 
dataset = tf.data.Dataset.range(3)
In [68]: 
dataset_repeat = dataset.repeat(3)
In [69]: 
for i in dataset_repeat:
    print(i)
  
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)
tf.Tensor(2, shape=(), dtype=int64)

相關推薦

TensorFlow2.0（六）：Dataset

  在整個機器學習過程中，除了訓練模型外，應該就屬資料預處理過程消耗的精力最多，資料預處理過程需要完成的任務包括資料讀取、過濾、轉換等等。為了將使用者從繁雜的預處理操作中解放處理，更多地將精力放在演算法建模上，Te

TensorFlow2.0（10）：載入自定義圖片資料集到Dataset

  前面的部落格中我們說過，在載入資料和預處理資料時使用tf.data.Dataset物件將極大將我們從建模前的資料清理工作中釋放出來，那麼，怎麼將自定義的資料集載入為DataSet物件呢？這對很多新手來說都是一個難題，因為絕大多數案例教學都是以

微服務 SpringBoot 2.0（六）：常用配置(properties、yml)

版本號 ria enable 序列化 資源 selector reference 一個 templates 約定優於配置，但配置不能為0 —— Java面試必修 引言 在前面的章節中，我們已經知道，SpringBoot的配置文件分為properties和yml，而我個人

TensorFlow2.0（1）：基本資料結構—張量

1 引言 TensorFlow2.0版本已經發布，雖然不是正式版，但預覽版都發布了，正式版還會遠嗎？相比於1.X，2.0版的TensorFlow修改的不是一點半點，這些修改極大的彌補了1.X版本的反人類設計，提升了框架的整體易用性，絕對好評！ 不多說了，趕緊來學習一波吧，做最先吃螃蟹的那一批人！先從Ten

TensorFlow2.0（二）：數學運算

1 基本運算：加（+）、減（-）、點乘（*）、除（/）、地板除法（//）、取餘（%） 基本運算中所有例項都以下面的張量a、b為例進行： >>> a = tf.random.uniform([2, 3], minval=1, maxval=6,dtype=tf.int32) >

TensorFlow2.0（五）：張量限幅

  1 maxmium()與minmium()¶   maximum()用於限制最小值,也即是說，將一個tensor中小於指定值的元素替換為指定值：

TensorFlow2.0（7）：啟用函式

  注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。   1 什麼是啟用函式¶

TensorFlow2.0（8）：誤差計算——損失函式總結

  注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。   1 均方差損失函式：MSE¶

TensorFlow2.0（9）：TensorBoard視覺化

  注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。   1 神器級的TensorBoard&p

TensorFlow2.0（11）：tf.keras建模三部曲

  注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。   Keras是一個基於Python編寫的高層神經網路API，憑藉使用者友好性、模組化以及易擴充套件等有點大受好評

TensorFlow2.0（12）：模型儲存與序列化

  注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。   模型訓練好之後，我們就要想辦法將其持久化儲存下來，不然關機或者程式退出後模型就不復存在了。本文介紹兩種持久化儲

.net core 2.0學習筆記（六）：Remoting核心類庫RealProxy遷移

ride dispatch 包含 void reflect 既然 splay creat （六） 在學習.net core的過程中，我們已經明確被告知，Remoting將不會被支持。官方的解釋是，.net framework 類型包含了太多的Runtime的內容，是

我對hyperledger fabric1.1.0的執著（六）：kafka叢集部署

1、用11臺伺服器，如下 名稱 ip Hostname 組織機構 Zk1 192.168.2.237 zookeeper1   Zk2 19

thinkphp5.0學習（六）： 獲取請求類和URL基本資訊

一、系統類（thinkphp\library\think） Config Controller Env Route Url View Request 二、系統方法（thinkphp\helper.php） dump（）；格式化輸出 contr

物聯網平臺構架系列 （六）：Amazon, Microsoft, IBM IoT 解決方案導論 之 結語

物聯網; iot; aws; 亞馬遜; greengrass;microsoft; azure;ibm; watson; bluemix最近研究了一些物聯網平臺技術資料，以做選型參考。腦子裏積累大量信息，便想寫出來做一些普及。作為科普文章，力爭通俗易懂，不確保概念嚴謹性。我會給考據癖者提供相關英文鏈接，以便深

RabbitMQ學習（六）：遠程結果調用

cells actor ble 隨機 get getenv all 求和 int 場景：我們需要在傳輸消息時得到結果 客服端在發送請求時會發送回調隊列，服務端處理事情完成後會將結果返回到回調隊列中，在增加關聯標誌關聯每個請求和服務返回 客戶端代碼： public

初識vue 2.0（2）：路由與組件

組件化 script -128 watch css image 暫時 效果 默認 1，在上一篇的創建工程中，使用的的模版 webpack-simple 只是創建了一個簡單的demo，並沒有組件和路由功能，此次采用了webpack模版，自動生成組件和路由。^_^ 在模版初始

Unity3D之Mecanim動畫系統學習筆記（六）：使用腳本控制動畫

ont nim 復制代碼 info rip esc enter machine images 控制人物動畫播放 這裏我重新弄了一個簡單的場景和新的Animator Controller來作為示例。 下面先看看Animator Controller的配置： 人物在站

深入淺出Mesos（六）：親身體會Apache Mesos

反饋 存儲 stat tar getting multi -a sources 其他 http://www.infoq.com/cn/articles/analyse-mesos-part-06 關於下一代數據中心操作系統Apache Mesos的系列文章，已經完成的內

java學習筆記（六）：變量類型

animal 單獨使用 div 位置 fin strong pub 局部變量 變量聲明 java一共三種變量： 局部變量（本地變量）：方法調用時創建，方法結束時銷毀 實例變量（全局變量）：類創建時創建，類銷毀時銷毀 類變量（靜態變量）：程序啟動是創建，程序銷毀時銷毀