黃色：重點

粉色：不懂

1. Torch 自稱為神經網絡界的 Numpy, 因為他能將 torch 產生的 tensor 放在 GPU 中加速運算 (前提是你有合適的 GPU), 就像 Numpy 會把 array 放在 CPU 中加速運算.

   import torch
   import numpy as np
   
   np_data = np.arange(6).reshape((2, 3))
   torch_data = torch.from_numpy(np_data)
   tensor2array = torch_data.numpy()
   print(
       ‘\nnumpy array:‘, np_data,          #
    
    [[0 1 2], [3 4 5]]
       ‘\ntorch tensor:‘, torch_data,      #  0  1  2 \n 3  4  5    [torch.LongTensor of size 2x3]
       ‘\ntensor to array:‘, tensor2array, # [[0 1 2], [3 4 5]]
   )

   Torch 中的數學運算

   其實 torch 中 tensor 的運算和 numpy array 的如出一轍, 我們就以對比的形式來看. 如果想了解 torch 中其它更多有用的運算符, API就是你要去的地方.

   # abs 絕對值計算
   data = [-1, -2, 1, 2]
   tensor 
    
   = torch.FloatTensor(data)  # 轉換成32位浮點 tensor
   print(
       ‘\nabs‘,
       ‘\nnumpy: ‘, np.abs(data),          # [1 2 1 2]
       ‘\ntorch: ‘, torch.abs(tensor)      # [1 2 1 2]
   )
   
   # sin   三角函數 sin
   print(
       ‘\nsin‘,
       ‘\nnumpy: ‘, np.sin(data),      # [-0.84147098 -0.90929743  0.84147098  0.90929743]
       ‘\ntorch: 
    
   ‘, torch.sin(tensor)  # [-0.8415 -0.9093  0.8415  0.9093]
   )
   
   # mean  均值
   print(
       ‘\nmean‘,
       ‘\nnumpy: ‘, np.mean(data),         # 0.0
       ‘\ntorch: ‘, torch.mean(tensor)     # 0.0
   )
   
   

   除了簡單的計算, 矩陣運算才是神經網絡中最重要的部分. 所以我們展示下矩陣的乘法. 註意一下包含了一個 numpy 中可行, 但是 torch 中不可行的方式.

   # matrix multiplication 矩陣點乘
   data = [[1,2], [3,4]]
   tensor = torch.FloatTensor(data)  # 轉換成32位浮點 tensor
   # correct method
   print(
       ‘\nmatrix multiplication (matmul)‘,
       ‘\nnumpy: ‘, np.matmul(data, data),     # [[7, 10], [15, 22]]
       ‘\ntorch: ‘, torch.mm(tensor, tensor)   # [[7, 10], [15, 22]]
   )
   
   # !!!!  下面是錯誤的方法 !!!!
   data = np.array(data)
   print(
       ‘\nmatrix multiplication (dot)‘,
       ‘\nnumpy: ‘, data.dot(data),        # [[7, 10], [15, 22]] 在numpy 中可行
       ‘\ntorch: ‘, tensor.dot(tensor)     # torch 會轉換成 [1,2,3,4].dot([1,2,3,4) = 30.0
   )

torch or numpy