1前言

    本節主要是讓人用向量化程式設計代替效率比較低的for迴圈。

    在前一節的Sparse Autoencoder練習中已經實現了向量化程式設計，所以與前一節的區別只在於本節訓練集是用MINIST資料集，而上一節訓練集用的是從10張圖片中隨機選擇的8*8的10000張小圖塊。綜上，只需要在前一節的程式碼中稍微修改一下就可。

2練習步驟

1.下載資料集及UFLDL提供的載入資料集的函式，並把他們和上節程式放在同一資料夾中。要注意的是UFLDL提供的載入資料集的函式中程式用的資料集名稱是train-images-idx3-ubyte，要把他改為train-images.idx3-ubyte。可用如下程式檢查

% Change the filenames if you've saved the files under different names
% On some platforms, the files might be saved as 
% train-images.idx3-ubyte / train-labels.idx1-ubyte
images = loadMNISTImages('train-images.idx3-ubyte');
labels = loadMNISTLabels('train-labels.idx1-ubyte');
 
% We are using display_network from the autoencoder code
display_network(images(:,1:100)); % Show the first 100 images
disp(labels(1:10));

　　執行之後得到如下結果就表示已經可以正確載入：

2.向量化Sparse Autoencoder程式，即上一節程式，因上節已實現，故此步驟可免去。

3.學習手寫數字庫的特徵。

    前言中已經說了，本步只需要在上節中稍微修改一下即可，具體如下：

①修改初始引數，把train.m檔案中把step0裡面的各個引數調整成這樣：

visibleSize = 28*28;   % number of input units 輸入層單元數
hiddenSize = 196;     % number of hidden units隱藏層單元數
sparsityParam = 0.1;   % desired average activation of the hidden units.稀疏值
                     % (This was denoted by the Greek alphabet rho, which looks like a lower-case "p",
		     %  in the lecture notes). 
lambda = 3e-3;     % weight decay parameter 權重衰減係數      
beta = 3;            % weight of sparsity penalty term稀疏值懲罰項的權重   

②修改訓練集，把step1裡面的patches的產生改為：

%% STEP 1: Implement sampleIMAGES  第1步：實現圖片取樣
%
%  實現圖片取樣後，函式display_network從訓練集中隨機顯示200張
%  After implementing sampleIMAGES, the display_network command should
%  display a random sample of 200 patches from the dataset
images = loadMNISTImages('train-images.idx3-ubyte');
patches = images(:,1:10000);

% patches = sampleIMAGES;
display_network(patches(:,randi(size(patches,2),200,1)),8);%從10000張中隨機選擇200張顯示


%  Obtain random parameters theta初始化引數向量theta
theta = initializeParameters(hiddenSize, visibleSize);

　4.其他一切不變，但是為了提高效率，可把train.m中的 STEP 3: Gradient Checking這步註釋掉，因為在本例中訓練集更大，梯度檢查會比較慢。然後執行train.m可得到視覺化結果為：

Elapsed time is 365.887537 seconds.

……