python資料庫連線池
阿新 • • 發佈:2019-01-14
一 DBUtils的認識
首先管理資料庫連線池的包是 DBUtils,為高頻度併發的資料庫訪問提供更好的效能,可以自動管理連線物件的建立和釋放,最常用的兩個外部介面是PersistentDB 和 PooledDB,前者提供了單個執行緒專用的資料庫連線池,後者則是程序內所有執行緒共享的資料庫連線池。
二 DBUtils 簡介
DBUtils是一套Python資料庫連線池包,並允許對非執行緒安全的資料庫介面進行執行緒安全包裝。DBUtils來自Webware for Python。
DBUtils提供兩種外部介面:
- PersistentDB :提供執行緒專用的資料庫連線,並自動管理連線。
- PooledDB :提供執行緒間可共享的資料庫連線,並自動管理連線。
三 建立資料庫連線池
1 import time 2 import pymysql 3 import threading 4 from DBUtils.PooledDB import PooledDB, SharedDBConnection 5 POOL = PooledDB( 6 creator=pymysql, # 使用連結資料庫的模組 7 maxconnections=6, # 連線池允許的最大連線數,0和None表示不限制連線數 8 mincached=2, # 初始化時,連結池中至少建立的空閒的連結,0表示不建立 9 maxcached=5, # 連結池中最多閒置的連結,0和None不限制 10 maxshared=3, # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。 11 blocking=True, # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯 12 maxusage=None, # 一個連結最多被重複使用的次數,None表示無限制 13 setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."] 14 ping=0, 15 # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always 16 host='127.0.0.1', 17 port=3306, 18 user='root', 19 password='123', 20 database='pooldb', 21 charset='utf8' 22 )
四 使用資料庫連線池
1 def func(): 2 # 檢測當前正在執行連線數的是否小於最大連結數,如果不小於則:等待或報raise TooManyConnections異常 3 # 否則 4 # 則優先去初始化時建立的連結中獲取連結 SteadyDBConnection。 5 # 然後將SteadyDBConnection物件封裝到PooledDedicatedDBConnection中並返回。 6 # 如果最開始建立的連結沒有連結,則去建立一個SteadyDBConnection物件,再封裝到PooledDedicatedDBConnection中並返回。 7 # 一旦關閉連結後,連線就返回到連線池讓後續執行緒繼續使用。 8 conn = POOL.connection() 9 10 cursor = conn.cursor() 11 cursor.execute('select * from tb1') 12 result = cursor.fetchall() 13 conn.close()
五 自制sqlhelper
1 class MySQLhelper(object): 2 def __init__(self, host, port, dbuser, password, database): 3 self.pool = PooledDB( 4 creator=pymysql, # 使用連結資料庫的模組 5 maxconnections=6, # 連線池允許的最大連線數,0和None表示不限制連線數 6 mincached=2, # 初始化時,連結池中至少建立的空閒的連結,0表示不建立 7 maxcached=5, # 連結池中最多閒置的連結,0和None不限制 8 maxshared=3, 9 # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。 10 blocking=True, # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯 11 maxusage=None, # 一個連結最多被重複使用的次數,None表示無限制 12 setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."] 13 ping=0, 14 # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always 15 host=host, 16 port=int(port), 17 user=dbuser, 18 password=password, 19 database=database, 20 charset='utf8' 21 ) 22 23 def create_conn_cursor(self): 24 conn = self.pool.connection() 25 cursor = conn.cursor(pymysql.cursors.DictCursor) 26 return conn,cursor 27 28 def fetch_all(self, sql, args): 29 conn,cursor = self.create_conn_cursor() 30 cursor.execute(sql,args) 31 result = cursor.fetchall() 32 cursor.close() 33 conn.close() 34 return result 35 36 37 def insert_one(self,sql,args): 38 conn,cursor = self.create_conn_cursor() 39 res = cursor.execute(sql,args) 40 conn.commit() 41 print(res) 42 conn.close() 43 return res 44 45 def update(self,sql,args): 46 conn,cursor = self.create_conn_cursor() 47 res = cursor.execute(sql,args) 48 conn.commit() 49 print(res) 50 conn.close() 51 return res 52 53 54 sqlhelper = MySQLhelper("127.0.0.1", 3306, "root", "1233121234567", "dragon") 55 56 # sqlhelper.fetch_all("select * from user where id=%s",(1)) 57 58 # sqlhelper.insert_one("insert into user VALUES (%s,%s)",("jinwangba",4)) 59 60 # sqlhelper.update("update user SET name=%s WHERE id=%s",("yinwangba",1))