介紹

  作為RNN的第二個demo，筆者將會介紹RNN模型在識別驗證碼方面的應用。   我們的驗證碼及樣本資料集來自於部落格： CNN大戰驗證碼,在這篇部落格中，我們已經準備好了所需的樣本資料集，不需要在辛辛苦苦地再弄一遍，直接呼叫data.csv就可以進行建模了。

RNN模型

  用TensorFlow搭建簡單RNN模型，因為是多分類問題，所以在最後的輸出部分再加一softmax層，損失函式採用對數損失函式，optimizer選擇RMSPropOptimizer。以下是RNN模型的完整Python程式碼(TensorFlow_RNN.py)：

# -*- coding: utf-8 -*-
 

import tensorflow as tf
import logging

# 設定日誌
logging.basicConfig(level = logging.INFO, format='%(asctime)s - %(levelname)s: %(message)s')
logger = logging.getLogger(__name__)

# RNN類
class RNN:

    # 初始化
    # 引數說明： element_size:      元素大小
    #           time_steps:        序列大小
    #           num_classes:       目標變數的類別總數
 

    #           batch_size:        圖片總數
    #           hidden_layer_size: 隱藏層的神經元個數
    #           epoch:             訓練次數
    #           learning_rate:     用RMSProp優化時的學習率
    #           save_model_path:   模型儲存地址
    def __init__(self, element_size, time_steps, num_classes, batch_size, hidden_layer_size =
 
 150,
                 epoch = 1000, learning_rate=0.001, save_model_path = r'./logs/RNN_train.ckpt'):

        self.epoch = epoch
        self.learning_rate = learning_rate
        self.save_model_path = save_model_path

        # 設定RNN結構
        self.element_size = element_size
        self.time_steps = time_steps
        self.num_classes = num_classes
        self.batch_size = batch_size
        self.hidden_layer_size = hidden_layer_size

        # 輸入向量和輸出向量
        self._inputs = tf.placeholder(tf.float32, shape=[None, self.time_steps, self.element_size], name='inputs')
        self.y = tf.placeholder(tf.float32, shape=[None, self.num_classes], name='inputs')

        # 利用TensorFlow的內建函式BasicRNNCell, dynamic_rnn來構建RNN的基本模組
        rnn_cell = tf.contrib.rnn.BasicRNNCell(self.hidden_layer_size)
        outputs, _ = tf.nn.dynamic_rnn(rnn_cell, self._inputs, dtype=tf.float32)
        Wl = tf.Variable(tf.truncated_normal([self.hidden_layer_size, self.num_classes], mean=0, stddev=.01))
        bl = tf.Variable(tf.truncated_normal([self.num_classes], mean=0, stddev=.01))

        def get_linear_layer(vector):
            return tf.matmul(vector, Wl) + bl

        # 取輸出的向量outputs中的最後一個向量最為最終輸出
        last_rnn_output = outputs[:, -1, :]
        self.final_output = get_linear_layer(last_rnn_output)

        # 定義損失函式並用RMSProp優化
        softmax = tf.nn.softmax_cross_entropy_with_logits(logits=self.final_output, labels=self.y)
        self.cross_entropy = tf.reduce_mean(softmax)
        self.train_model = tf.train.RMSPropOptimizer(self.learning_rate, 0.9).minimize(self.cross_entropy)

        self.saver = tf.train.Saver()
        logger.info('Initialize RNN model...')

    # 模型訓練
    def train(self, x_data, y_data):

        logger.info('Training RNN model...')
        with tf.Session() as sess:
            # 對所有變數進行初始化
            sess.run(tf.global_variables_initializer())

            # 進行迭代學習
            feed_dict = {self._inputs: x_data, self.y: y_data}
            for i in range(self.epoch + 1):
                sess.run(self.train_model, feed_dict=feed_dict)
                if i % int(self.epoch / 50) == 0:
                    # to see the step improvement
                    print('已訓練%d次, loss: %s.' % (i, sess.run(self.cross_entropy, feed_dict=feed_dict)))

            # 儲存RNN模型
            logger.info('Saving RNN model...')
            self.saver.save(sess, self.save_model_path)

    # 對新資料進行預測
    def predict(self, data):
        with tf.Session() as sess:
            logger.info('Restoring RNN model...')
            self.saver.restore(sess, self.save_model_path)
            predict = sess.run(self.final_output, feed_dict={self._inputs: data})
        return predict

模型訓練

  對樣本資料集data.csv進行RNN建模，將資料集分為訓練集和測試集，各佔70%和30%.因為圖片的大小為16*20,所以在將圖片看成序列時，序列的長度為20，每一時刻的向量含有16個元素，共有31個目標類，取隱藏層大小為300，總共訓練1000次。 完整的Python程式碼如下：

# -*- coding: utf-8 -*-
"""
數字字母識別
利用RNN對驗證碼的資料集進行多分類
"""
from TensorFlow_RNN import RNN
import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
from sklearn.preprocessing import LabelBinarizer

CSV_FILE_PATH = 'F://驗證碼識別/data.csv'          # CSV 檔案路徑
df = pd.read_csv(CSV_FILE_PATH)                   # 讀取CSV檔案

# 資料集的特徵
features = ['v'+str(i+1) for i in range(16*20)]
labels = df['label'].unique()
# 對樣本的真實標籤進行標籤二值化
lb = LabelBinarizer()
lb.fit(labels)
y_ture = pd.DataFrame(lb.transform(df['label']), columns=['y'+str(i) for i in range(31)])
y_bin_columns = list(y_ture.columns)

for col in y_bin_columns:
    df[col] = y_ture[col]

# 將資料集分為訓練集和測試集，訓練集70%, 測試集30%
x_train, x_test, y_train, y_test = train_test_split(df[features], df[y_bin_columns], \
                                                    train_size = 0.7, test_size=0.3, random_state=123)

# 構建RNN網路
# 模型儲存地址
MODEL_SAVE_PATH = 'F:///驗證碼識別/logs/RNN_train.ckpt'
# RNN初始化
element_size = 16
time_steps = 20
num_classes = 31
hidden_layer_size = 300
batch_size = 960

new_x_train = np.array(x_train).reshape((-1, time_steps, element_size))
new_x_test = np.array(x_test).reshape((-1, time_steps, element_size))

rnn = RNN(element_size=element_size,
          time_steps=time_steps,
          num_classes=num_classes,
          batch_size=batch_size,
          hidden_layer_size= hidden_layer_size,
          epoch=1000,
          save_model_path=MODEL_SAVE_PATH,
          )

# 訓練RNN
rnn.train(new_x_train, y_train)
# 預測資料
y_pred = rnn.predict(new_x_test)

# 預測分類
label = '123456789ABCDEFGHJKLNPQRSTUVXYZ'
prediction = []
for pred in y_pred:
    label = labels[list(pred).index(max(pred))]
    prediction.append(label)

# 計算預測的準確率
x_test['prediction'] = prediction
x_test['label'] = df['label'][y_test.index]
print(x_test.head())
accuracy = accuracy_score(x_test['prediction'], x_test['label'])
print('CNN的預測準確率為%.2f%%.'%(accuracy*100))

以下是模型訓練的結果：

2018-09-26 11:18:12,339 - INFO: Initialize RNN model...
2018-09-26 11:18:12,340 - INFO: Training RNN model...
已訓練0次, loss: 3.43417.
已訓練20次, loss: 3.42695.
已訓練40次, loss: 3.40638.
已訓練60次, loss: 3.33286.
已訓練80次, loss: 2.78305.
已訓練100次, loss: 2.33391.
已訓練120次, loss: 1.15871.
已訓練140次, loss: 0.659932.
已訓練160次, loss: 0.566225.
已訓練180次, loss: 0.397372.
已訓練200次, loss: 0.317218.
已訓練220次, loss: 0.346782.
已訓練240次, loss: 0.639625.
已訓練260次, loss: 0.0575929.
已訓練280次, loss: 0.100429.
已訓練300次, loss: 0.0347529.
已訓練320次, loss: 0.0189503.
已訓練340次, loss: 0.0265893.
已訓練360次, loss: 0.0151181.
已訓練380次, loss: 1.18662.
已訓練400次, loss: 0.0164317.
已訓練420次, loss: 0.00819814.
已訓練440次, loss: 0.0041992.
已訓練460次, loss: 0.0206414.
已訓練480次, loss: 0.00826409.
已訓練500次, loss: 0.00398952.
已訓練520次, loss: 0.00214751.
已訓練540次, loss: 0.0365587.
已訓練560次, loss: 0.00738376.
已訓練580次, loss: 0.00302118.
已訓練600次, loss: 0.00161713.
已訓練620次, loss: 0.000885372.
已訓練640次, loss: 1.24874.
已訓練660次, loss: 0.00601175.
已訓練680次, loss: 0.0023275.
已訓練700次, loss: 0.00121995.
已訓練720次, loss: 0.000705643.
已訓練740次, loss: 0.000407971.
已訓練760次, loss: 0.000219642.
已訓練780次, loss: 0.0889083.
已訓練800次, loss: 0.00395974.
已訓練820次, loss: 0.00131215.
已訓練840次, loss: 0.000631665.
已訓練860次, loss: 0.000342329.
已訓練880次, loss: 0.000191806.
已訓練900次, loss: 0.000108547.
已訓練920次, loss: 6.29806e-05.
已訓練940次, loss: 3.99281e-05.
已訓練960次, loss: 0.0124334.
已訓練980次, loss: 0.00142853.
2018-09-26 11:26:08,302 - INFO: Saving RNN model...
已訓練1000次, loss: 0.000571731.
2018-09-26 11:26:08,761 - INFO: Restoring RNN model...
INFO:tensorflow:Restoring parameters from F:///驗證碼識別/logs/RNN_train.ckpt
2018-09-26 11:26:08,761 - INFO: Restoring parameters from F:///驗證碼識別/logs/RNN_train.ckpt
      v1  v2  v3  v4  v5  v6  v7  v8  v9  v10  ...    v313  v314  v315  v316  \
657    1   1   1   1   1   1   1   1   1    1  ...       1     1     1     1   
18     1   1   1   1   1   1   1   1   1    1  ...       1     1     1     1   
700    1   1   1   1   1   1   1   1   1    1  ...       1     1     1     1   
221    1   1   1   1   1   1   1   1   1    1  ...       1     1     1     1   
1219   1   1   1   1   1   1   1   1   1    1  ...       1     1     1     1   

      v317  v318  v319  v320  prediction  label  
657      1     1     1     1           G      G  
18       1     1     1     1           1      1  
700      1     1     1     1           H      H  
221      1     1     1     1           5      5  
1219     1     1     1     1           V      V  

[5 rows x 322 columns]
CNN的預測準確率為93.69%.

總共的訓練時間為8分鐘，在測試集上的準確為93.69%.與CNN相比，測試集上的準確率略高，訓練時間卻明顯減少，因為CNN訓練1000次的時間為75分鐘。總的來說，該RNN模型在這個資料集的表現優於之前的CNN模型。

模型預測

  接著，我們利用剛才訓練好的CNN模型，對新驗證碼進行識別，看看模型的識別效果。   筆者採集了50張新驗證碼，如下：

  完整的預測新驗證碼的Python指令碼如下：

# -*- coding: utf-8 -*-

"""
利用訓練好的RNN模型對驗證碼進行識別
（共訓練960條資料，訓練1000次測試集上的準確率為95.15%.）
"""
import os
import cv2
import pandas as pd
import numpy as np
from TensorFlow_RNN import RNN

def split_picture(imagepath):

    # 以灰度模式讀取圖片
    gray = cv2.imread(imagepath, 0)

    # 將圖片的邊緣變為白色
    height, width = gray.shape
    for i in range(width):
        gray[0, i] = 255
        gray[height-1, i] = 255
    for j in range(height):
        gray[j, 0] = 255
        gray[j, width-1] = 255

    # 中值濾波
    blur = cv2.medianBlur(gray, 3) #模板大小3*3

    # 二值化
    ret,thresh1 = cv2.threshold(blur, 200, 255, cv2.THRESH_BINARY)

    # 提取單個字元
    chars_list = []
    image, contours, hierarchy = cv2.findContours(thresh1, 2, 2)
    for cnt in contours:
        # 最小的外接矩形
        x, y, w, h = cv2.boundingRect(cnt)
        if x != 0 and y != 0 and w*h >= 100:
            chars_list.append((x,y,w,h))

    sorted_chars_list = sorted(chars_list, key=lambda x:x[0])
    for i,item in enumerate(sorted_chars_list):
        x, y, w, h = item
        cv2.imwrite('F://chars/%d.jpg'%(i+1), thresh1[y:y+h, x:x+w])

def remove_edge_picture(imagepath):

    image = cv2.imread(imagepath, 0)
    height, width = image.shape
    corner_list = [image[0,0] < 127,
                   image[height-1, 0] < 127,
                   image[0, width-1]<127,
                   image[ height-1, width-1] < 127
                   ]
    if sum(corner_list) >= 3:
        os.remove(imagepath)

def resplit_with_parts(imagepath, parts):
    image = cv2.imread(imagepath, 0)
    os.remove(imagepath)
    height, width = image.shape

    file_name = imagepath.split('/')[-1].split(r'.')[0]
    # 將圖片重新分裂成parts部分
    step = width//parts     # 步長
    start = 0             # 起始位置
    for i in range(parts):
        cv2.imwrite('F://chars/%s.jpg'%(file_name+'-'+str(i)), \
                    image[:, start:start+step])
        start += step

def resplit(imagepath):

    image = cv2.imread(imagepath, 0)
    height, width = image.shape

    if width >= 64:
        resplit_with_parts(imagepath, 4)
    elif width >= 48:
        resplit_with_parts(imagepath, 3)
    elif width >= 26:
        resplit_with_parts(imagepath, 2)

# rename and convert to 16*20 size
def convert(dir, file):

    imagepath = dir+'/'+file
    # 讀取圖片
    image = cv2.imread(imagepath, 0)
    # 二值化
    ret, thresh = cv2.threshold(image, 127, 255, cv2.THRESH_BINARY)
    img = cv2.resize(thresh, (16, 20), interpolation=cv2.INTER_AREA)
    # 儲存圖片
    cv2.imwrite('%s/%s' % (dir, file), img)

# 讀取圖片的資料，並轉化為0-1值
def Read_Data(dir, file):

    imagepath = dir+'/'+file
    # 讀取圖片
    image = cv2.imread(imagepath, 0)
    # 二值化
    ret, thresh = cv2.threshold(image, 127, 255, cv2.THRESH_BINARY)
    # 顯示圖片
    bin_values = [1 if pixel==255 else 0 for pixel in thresh.ravel()]

    return bin_values

def predict(rnn, VerifyCodePath, time_steps, element_size):
    dir = 'F://chars'
    files = os.listdir(dir)

    # 清空原有的檔案
    if files:
        for file in files:
            os.remove(dir + '/' + file)

    split_picture(VerifyCodePath)

    files = os.listdir(dir)
    if not files:
        print('檢視的資料夾為空！')
    else:

        # 去除噪聲圖片
        for file in files:
            remove_edge_picture(dir + '/' + file)

        # 對黏連圖片進行重分割
        for file in os.listdir(dir):
            resplit(dir + '/' + file)

        # 將圖片統一調整至16*20大小
        for file in os.listdir(dir):
            convert(dir, file)

        # 圖片中的字元代表的向量
        files = sorted(os.listdir(dir), key=lambda x: x[0])
        table = [Read_Data(dir, file) for file in files]

        test_data = pd.DataFrame(table, columns=['v%d' % i for i in range(1, 321)])



        new_test_data = np.array(test_data).reshape((-1, time_steps, element_size))

        y_pred = rnn.predict(new_test_data)

        # 預測分類
        prediction = []
        labels = '123456789ABCDEFGHJKLNPQRSTUVXYZ'
        for pred in y_pred:
            label = labels[list(pred).index(max(pred))]
            prediction.append(label)

    TRUE_LABEL = VerifyCodePath.split('/')[-1].split(r'.')[0]

    return TRUE_LABEL, ''.join(prediction)

def main():

    # 建立RNN預測模型
    # 模型儲存地址
    MODEL_SAVE_PATH = 'F:///驗證碼識別/logs/RNN_train.ckpt'
    # RNN初始化
    element_size = 16
    time_steps = 20
    num_classes = 31
    batch_size = 4
    hidden_layer_size = 300
    rnn = RNN(element_size=element_size,
              time_steps=time_steps,
              num_classes=num_classes,
              batch_size=batch_size,
              hidden_layer_size=hidden_layer_size,
              epoch=1000,
              save_model_path=MODEL_SAVE_PATH,
              )

    # 預測驗證碼
    pred_list = []
    dir = 'F://VerifyCode/'
    for file in os.listdir(dir):
        VerifyCodePath = dir+file
        label, prediction = predict(rnn, VerifyCodePath, time_steps, element_size)
        pred_list.append((label, prediction))
        # print('真實值為：%s, 預測結果為: %s.'%(label, prediction))

    # 統計預測正確的驗證碼的數量及準確率
    total_images = len(pred_list)
    correct_pred  
 

            
  
           

              
              
            
            
相關推薦
			   
            
            
            
 

    

    
    
RNN入門（二）識別驗證碼
     
 
							
							
							介紹
  作為RNN的第二個demo，筆者將會介紹RNN模型在識別驗證碼方面的應用。
  我們的驗證碼及樣本資料集來自於部落格： CNN大戰驗證碼,在這篇部落格中，我們已經準備好了所需的樣本資料集，不需要在辛辛苦苦地再弄一遍，直接呼叫data.csv就可以進行建 

  
 

    

    
    
Keras初探（二）——識別驗證碼
     
 
							
							
							訪問本站觀看效果更佳
繼上篇對於Keras的初步探討之後，我將給出一個例子講解如何利用Keras用於處理影象分類問題，今天我們先探討一下識別驗證碼的問題。
一、探討內容
1、資料來源
2、模型搭建
3、優化問題
二、資料來源
在本文中，我打算對驗證碼進行識別，有 

  
 

    

    
    
pytorch 入門（二） cnn 手寫數字識別
     
 
							
							
							import torch
import torch.nn as nn
import torchvision.datasets as normal_datasets
import torchvision.transforms as transforms
from  

  
 

    

    
    
搜狗語音雲開發入門（二）——使用離線語音識別服務
     
 
                
1 簡介
之前在《搜狗語音雲開發入門--移動端輕鬆新增高大上的語音識別》中介紹了使用搜狗語音雲為客戶端程式新增線上語音識別服務。線上語音服務需要聯網使用，但是你不能指望使用者擁有完美的環境，事實上大多數情況下使用者的外圍環境都會有所限制。有的時候沒有Wi-Fi、沒有流量，還 

  
 

    

    
    
Spring Boot 系列入門（二） web工程（識別JSP）
     
 
							
							
							開發環境描述


IntelliJ IDEA 2017.2.6     
JDK 1.8     




建立Web工程



1. File->New->Project





2.  在New Project選擇Spring Initiali 

  
 

    

    
    
Kaggle競賽入門（二）：如何驗證機器學習模型
     
 本文翻譯自kaggle learn，也就是kaggle官方最快入門kaggle競賽的教程，強調python程式設計實踐和數學思想（而沒有涉及數學細節），筆者在不影響演算法和程式理解的基礎上刪除了一些不必要的廢話，英文有的時候比較囉嗦。
一.什麼是模型驗證
模型驗證在機器學習當中非常重要，因為有的時候擬合出來的 

  
 

    

    
    
（數字IC）低功耗設計入門（二）——功耗的分析
     
 layout   變化   監視   merge   obj   source   divide   傳播   總結   　　前面學習了進行低功耗的目的個功耗的構成，今天就來分享一下功耗的分析。由於是面向數字IC前端設計的學習，所以這裏的功耗分析是基於DC中的power compiler工具；更精確的功耗分析 

  
 

    

    
    
Linux入門（二）
     
 man   linux終端   linux發行版本   linux文件系統初步   google高級用法   Linux常用的基礎命令1.發行版本2.CISC、RISC3.編譯和反編譯（GPL、LGPL、BSD）4.程序包管理5.文件系統初步終端設備虛擬終端圖形終端串行終端偽終端Linux的哲學思想6.開源協 

  
 

    

    
    
Docker入門（二）
     
 docker安裝   docker基礎命令   一、Docker相關概念1.Docker:	namespace,cgroup:	解決方案：		lxc,openvz				lxc:linux containers	docker最初就是lxc的封裝版本。	docker engine/docker server：輸 

  
 

    

    
    
vue-cli入門（二）——項目結構
     
 常用   作用   寫到   www.   簡單的   端口   server   標簽   emp   

前言
在上一篇項目搭建文章中，我們已經下載安裝了node環境以及vue-cli，並且已經成功構建了一個vue-cli項目，那麽接下來，我們來梳理一下vue-cli項目的結構。
總體框架
一個vue-c 

  
 

    

    
    
log4j2使用入門（二）——與不同日誌框架的適配
     
 一個   slf4   core   log4j   說明   不同   activemq   進行   -a   在上方中已經指出log4j2可以與不同的日誌框架進行適配，這裏舉一些實際應用進行說明：
1.比如我們在項目中使用了log4j2作為日誌器，使用了log4j-api2.6.2.jar和log4j 

  
 

    

    
    
【轉】VBA編程入門（二）
     
 mat   復雜   任務   遙控   一次   環境   box   range   使用   

詳解VBA編程是什麽

由 vietdung90 創建，最後一次修改 2016-10-19



直到 90 年代早期,使應用程序自動化還是充滿挑戰性的領域.對每個需要自動化的應用程序,人們不得不學習一種不 

  
 

    

    
    
Hibernate入門 （二）三種狀態
     
 依賴   區分   dia   讀取配置文件   hibernate   conn   null   threads   定時   .大配置  方言     property name="dialect"  取值  自動構建表結構     property name="hbm2ddl"  true   con 

  
 

    

    
    
PHP基礎入門（二）【PHP函數基礎】
     
 就是   進行   size   自定義   取地址   代碼   功能   sha   有一種   
PHP基礎入門（二）——函數基礎


了解 PHP基礎入門詳解（一） 後，給大家分享一下PHP的函數基礎。

這部分主要講的就是: 函數的聲明與使用、PHP中變量的作用域、靜態變量、函數的參數傳遞、變量函數 

  
 

    

    
    
開源性能測試工具JMeter快速入門（二）
     
 代碼   取模   .bat   -h   斷言   調度   測試   格式   needed   目錄一、JMeter簡介二、JMeter功能介紹三、JMeter腳本四、關於JMeter小提示三、JMeter腳本1.測試計劃測試計劃是JMeter進行測試的起點 ，是其他JMeter測試元件的容器，每個測試 

  
 

    

    
    
02-Linux基礎入門（二）
     
 ...   man   sso   term   創建文件系統   www.   lease   linux系統   結果   一、命令必須掌握的命令：man,touch,ls,mkdir,cp,rm,mv,echo,pwd,cat,alias,unalias,head,tail,tree,rmdir想拿到高 

  
 

    

    
    
卷積神經網絡入門（1） 識別貓狗
     
 關系   圖像識別   能力   數字   匿跡   ssi   圖像處理   目標   多個   一下來自知乎

按照我的理解，CNN的核心其實就是卷積核的作用，只要明白了這個問題，其余的就都是數學坑了（當然，相比較而言之後的數學坑更難）。
如果學過數字圖像處理，對於卷積核的作用應該不陌生，比如你做一個最簡 

  
 

    

    
    
Hibernate入門（二）
     
 方式   分享   數據庫表   left   use   acl   att   commit   cti   一、主鍵生成策略
1.主鍵的類型


自然主鍵: 把有特定業務含義的字段作為了主鍵 eg: 用戶的名字, 身份證號碼


代理主鍵: 把沒有特定業務含義的字段作為了主鍵 eg: id


 　開發 

  
 

    

    
    
spring-data-jpa快速入門（二）——簡單查詢
     
 ref   spa   data   mail   domain   event   cif   open   寫實   一、方法名解析
　　1.引言
　　　　回顧HelloWorld項目中的dao接口

public interface GirlRepository extends JpaRepos 

  
 

    

    
    
Spring入門（二）—  IOC註解、Spring測試AOP入門
     
 兩種   cts   his   工作   source   print   編程   實現機制   工廠   一、Spring整合Servlet背後的細節
1. 為什麽要在web.xml中配置listener

<listener>
    <listener-class>org.s