1. 程式人生 > >Python實現Mysql資料庫連線池

Python實現Mysql資料庫連線池

python連線Mysql資料庫:

python程式設計中可以使用MySQLdb進行資料庫的連線及諸如查詢/插入/更新等操作,但是每次連線mysql資料庫請求時,都是獨立的去請求訪問,相當浪費資源,而且訪問數量達到一定數量時,對mysql的效能會產生較大的影響。因此,實際使用中,通常會使用資料庫的連線池技術,來訪問資料庫達到資源複用的目的。

資料庫連線池

python的資料庫連線池包 DBUtils:

DBUtils是一套Python資料庫連線池包,並允許對非執行緒安全的資料庫介面進行執行緒安全包裝。DBUtils來自Webware for Python。

DBUtils提供兩種外部介面:
  • * PersistentDB :提供執行緒專用的資料庫連線,並自動管理連線。
  • * PooledDB :提供執行緒間可共享的資料庫連線,並自動管理連線。

下載地址:DBUtils   下載解壓後,使用python setup.py install 命令進行安裝

下面利用MySQLdb和DBUtils建立自己的mysql資料庫連線池工具包

在工程目錄下新建package命名為:dbConnecttion,並新建module命名為MySqlConn,下面是MySqlConn.py,該模組建立Mysql的連線池物件,並建立瞭如查詢/插入等通用的操作方法。該部分程式碼實現如下:

# -*- coding: UTF-8 -*-
"""
Created on 2016年5月7日

@author: baocheng
1、執行帶引數的SQL時,請先用sql語句指定需要輸入的條件列表,然後再用tuple/list進行條件批配
2、在格式SQL中不需要使用引號指定資料型別,系統會根據輸入引數自動識別
3、在輸入的值中不需要使用轉意函式,系統會自動處理
"""
 
import MySQLdb
from MySQLdb.cursors import DictCursor
from DBUtils.PooledDB import PooledDB
#from PooledDB import PooledDB
import Config

"""
Config是一些資料庫的配置檔案
"""
 
class Mysql(object):
    """
    MYSQL資料庫物件,負責產生資料庫連線 , 此類中的連線採用連線池實現獲取連線物件:conn = Mysql.getConn()
            釋放連線物件;conn.close()或del conn
    """
    #連線池物件
    __pool = None
    def __init__(self):
        #資料庫建構函式,從連線池中取出連線,並生成操作遊標
        self._conn = Mysql.__getConn()
        self._cursor = self._conn.cursor()
 
    @staticmethod
    def __getConn():
        """
        @summary: 靜態方法,從連線池中取出連線
        @return MySQLdb.connection
        """
        if Mysql.__pool is None:
            __pool = PooledDB(creator=MySQLdb, mincached=1 , maxcached=20 ,
                              host=Config.DBHOST , port=Config.DBPORT , user=Config.DBUSER , passwd=Config.DBPWD ,
                              db=Config.DBNAME,use_unicode=False,charset=Config.DBCHAR,cursorclass=DictCursor)
        return __pool.connection()
 
    def getAll(self,sql,param=None):
        """
        @summary: 執行查詢,並取出所有結果集
        @param sql:查詢SQL,如果有查詢條件,請只指定條件列表,並將條件值使用引數[param]傳遞進來
        @param param: 可選引數,條件列表值(元組/列表)
        @return: result list(字典物件)/boolean 查詢到的結果集
        """
        if param is None:
            count = self._cursor.execute(sql)
        else:
            count = self._cursor.execute(sql,param)
        if count>0:
            result = self._cursor.fetchall()
        else:
            result = False
        return result
 
    def getOne(self,sql,param=None):
        """
        @summary: 執行查詢,並取出第一條
        @param sql:查詢SQL,如果有查詢條件,請只指定條件列表,並將條件值使用引數[param]傳遞進來
        @param param: 可選引數,條件列表值(元組/列表)
        @return: result list/boolean 查詢到的結果集
        """
        if param is None:
            count = self._cursor.execute(sql)
        else:
            count = self._cursor.execute(sql,param)
        if count>0:
            result = self._cursor.fetchone()
        else:
            result = False
        return result
 
    def getMany(self,sql,num,param=None):
        """
        @summary: 執行查詢,並取出num條結果
        @param sql:查詢SQL,如果有查詢條件,請只指定條件列表,並將條件值使用引數[param]傳遞進來
        @param num:取得的結果條數
        @param param: 可選引數,條件列表值(元組/列表)
        @return: result list/boolean 查詢到的結果集
        """
        if param is None:
            count = self._cursor.execute(sql)
        else:
            count = self._cursor.execute(sql,param)
        if count>0:
            result = self._cursor.fetchmany(num)
        else:
            result = False
        return result
 
    def insertOne(self,sql,value):
        """
        @summary: 向資料表插入一條記錄
        @param sql:要插入的SQL格式
        @param value:要插入的記錄資料tuple/list
        @return: insertId 受影響的行數
        """
        self._cursor.execute(sql,value)
        return self.__getInsertId()
 
    def insertMany(self,sql,values):
        """
        @summary: 向資料表插入多條記錄
        @param sql:要插入的SQL格式
        @param values:要插入的記錄資料tuple(tuple)/list[list]
        @return: count 受影響的行數
        """
        count = self._cursor.executemany(sql,values)
        return count
 
    def __getInsertId(self):
        """
        獲取當前連線最後一次插入操作生成的id,如果沒有則為0
        """
        self._cursor.execute("SELECT @@IDENTITY AS id")
        result = self._cursor.fetchall()
        return result[0]['id']
 
    def __query(self,sql,param=None):
        if param is None:
            count = self._cursor.execute(sql)
        else:
            count = self._cursor.execute(sql,param)
        return count
 
    def update(self,sql,param=None):
        """
        @summary: 更新資料表記錄
        @param sql: SQL格式及條件,使用(%s,%s)
        @param param: 要更新的  值 tuple/list
        @return: count 受影響的行數
        """
        return self.__query(sql,param)
 
    def delete(self,sql,param=None):
        """
        @summary: 刪除資料表記錄
        @param sql: SQL格式及條件,使用(%s,%s)
        @param param: 要刪除的條件 值 tuple/list
        @return: count 受影響的行數
        """
        return self.__query(sql,param)
 
    def begin(self):
        """
        @summary: 開啟事務
        """
        self._conn.autocommit(0)
 
    def end(self,option='commit'):
        """
        @summary: 結束事務
        """
        if option=='commit':
            self._conn.commit()
        else:
            self._conn.rollback()
 
    def dispose(self,isEnd=1):
        """
        @summary: 釋放連線池資源
        """
        if isEnd==1:
            self.end('commit')
        else:
            self.end('rollback');
        self._cursor.close()
        self._conn.close()

配置檔案模組Cnofig,包括資料庫的連線資訊/使用者名稱密碼等:
#coding:utf-8
'''
Created on 2016年5月7日

@author: baocheng
'''
DBHOST = "localhost"
DBPORT = 33606
DBUSER = "zbc"
DBPWD = "123456"
DBNAME = "test"
DBCHAR = "utf8"
建立test模組,測試一下使用連線池進行mysql訪問:
#coding:utf-8
'''

@author: baocheng
'''
from MySqlConn import Mysql
from _sqlite3 import Row

#申請資源
mysql = Mysql()

sqlAll = "SELECT tb.uid as uid, group_concat(tb.goodsname) as goodsname FROM ( SELECT goods.uid AS uid, IF ( ISNULL(goodsrelation.goodsname), goods.goodsID, goodsrelation.goodsname ) AS goodsname FROM goods LEFT JOIN goodsrelation ON goods.goodsID = goodsrelation.goodsId ) tb GROUP BY tb.uid"
result = mysql.getAll(sqlAll)
if result :
    print "get all"
    for row in result :
        print "%s\t%s"%(row["uid"],row["goodsname"])
sqlAll = "SELECT tb.uid as uid, group_concat(tb.goodsname) as goodsname FROM ( SELECT goods.uid AS uid, IF ( ISNULL(goodsrelation.goodsname), goods.goodsID, goodsrelation.goodsname ) AS goodsname FROM goods LEFT JOIN goodsrelation ON goods.goodsID = goodsrelation.goodsId ) tb GROUP BY tb.uid"
result = mysql.getMany(sqlAll,2)
if result :
    print "get many"
    for row in result :
        print "%s\t%s"%(row["uid"],row["goodsname"])        
        
        
result = mysql.getOne(sqlAll)
print "get one"
print "%s\t%s"%(result["uid"],result["goodsname"])

#釋放資源
mysql.dispose()
當然,還有很多其他引數可以配置:
  • dbapi :資料庫介面
  • mincached :啟動時開啟的空連線數量
  • maxcached :連線池最大可用連線數量
  • maxshared :連線池最大可共享連線數量
  • maxconnections :最大允許連線數量
  • blocking :達到最大數量時是否阻塞
  • maxusage :單個連線最大複用次數
根據自己的需要合理配置上述的資源引數,以滿足自己的實際需要。
至此,python中的mysql連線池實現完了,下次就直接拿來用就好了。
部落格地址:data mining club