1. 程式人生 > >【嘔心總結】python如何與mysql實現互動及常用sql語句

【嘔心總結】python如何與mysql實現互動及常用sql語句

9 月初,我對 python 爬蟲 燃起興趣,但爬取到的資料多通道實時同步讀寫用檔案並不方便,於是開始用起mysql。這篇筆記,我將整理近一個月的實戰中最常用到的 mysql 語句,同時也將涉及到如何在python3中與 mysql 實現資料交換。

關於工具/庫,特別說明下:

1、我安裝了 mysql ,並直接採用管理員身份執行命令列提示符(cmd)檢視 mysql,並沒有安裝任何 mysql 的視覺化圖形介面工具。

2、在 python 指令碼中,我採用 pymysqlsqlalchemy 這兩個庫與 mysql 建立連線,用 pandas 來處理資料。

一、建立連線與資料互動

與 mysql 互動的方式,我目前共使用 4 種。其中採用管理員身份執行命令列提示符(cmd)

檢視 mysql,其操作圖示可另寫一篇。這裡就不佔篇幅了。mysql的視覺化圖形介面工具,我目前並沒有用到,也沒有迫切使用它的需要。另外 3 種方式都是通過 python 指令碼進行。

情境A:python 演算得出資料,想要寫入資料庫

python 指令碼已得到表格類大量資料,想要一次性寫入資料庫,常用程式碼如下:

import pandas as pd
# 與 mysql 建立連線
from sqlalchemy import create_engine
conn_eng = create_engine('mysql+pymysql://username:password@localhost:3306/databasename',encoding='utf8')  

# 呼叫 pandas 的方法,資料寫入mysql
pd.io.sql.to_sql(your_df, "table_name", conn_eng, if_exists='append',index=False)

表格類資料,我用的是 pandasdataframe 結構。pd.io.sql.to_sql() 的引數還有許多其它用途,但上面這種是我個人使用最高頻的。效果是:無需自己提前建表,將自動建新表。美中不足是:表的列屬性自動生成,通常不合心意,還需檢查和修改。

如果不想用 pd.io.sql.to_sql() 或者想更精細、複雜的操作,則用到下面的情境C。

情境B:python 指令碼想從 mysql 拿到資料

如果已經存在某個表格,想要向該表格提交某條指令,需返回資料,我用的是 pandasread_sql () ,返回的資料型別是 pandasdataframe。sql 查詢語句挺好寫的,具體總結在本文下方。

import pymysql
# 與 mysql 建立連線
conn = pymysql.connect('localhost','username','password','databasename')
# sql 語句定義為一個字串
sql_search = 'select question_id from topic_monitor where is_title=0 ;'
# 呼叫 pandas 的 read_sql() 方法拿到 dataframe 結構的資料
question_ids = pd.read_sql(sql_search,conn)
# 關閉連線
conn.close()

情境C:python 指令碼單方面向 mysql 發出指令,無需拿到資料

如果已經存在某個表格,想要向該表格提交某條指令而無需返回資料時,比如:建表、對資料的增改刪、對列的名稱、列的屬性修改等,程式碼如下。

import pymysql
# 與 mysql 建立連線
conn = pymysql.connect('localhost','username','password','databasename')
cursor = conn.cursor()
# sql 語句定義為一個字串,插入一行資料
sql_insert = 'INSERT INTO questions(q_id,q_title,q_description,q_keywords,q_people,q_pageview,time) VALUES( "'\
                + str(quesition_id) + '", "' + str(one[0])+ '", "' + str(one[1]) + '", "' + str(one[2]) + '", "' \
                + str(one[3]) + '", "' + str(one[4]) + '", "' + str(datetime.datetime.now()) + '");' 
# sql 語句定義為一個字串,修改某個資料(另一個表格)
sql_update = 'update topic_monitor SET is_title="1" where question_id = "' + str(quesition_id) + '";'
# 提交指令
cursor.execute(sql_insert)
cursor.execute(sql_update)
conn.commit()

# 插入一行資料;僅當該資料與表格已有資料不重複時才插入,否則就不會插入
sql_insert = 'INSERT INTO `topic_monitor`(question_id,is_title,q_type,topic_id,time) SELECT "'\
                    + x[0] + '", "0", "0","'  + str(topic_id) + '", "'+ str(now) + '" FROM DUAL WHERE NOT EXISTS(\
                    SELECT question_id FROM topic_monitor WHERE question_id = "' + x[0] + '")'
cursor.execute(sql_insert)
conn.commit()

# 關閉連線
cursor.close()
conn.close()

通過上面幾種實用情況可以看到,pythonmysql 實現互動的過程,通常分為:建立連線、把sql語句定義為字串,提交指令、關閉連線。核心的技能在於 sql語句;除了定義sql語句字串,其餘3個處理都是固定的寫法。

我在最初一個月的實踐中,最常出現的錯誤有:

  • 值的引用沒有加上引號;
  • 符號錯亂:多一個符號,少一個符號;
  • 值的型別不符合:不管 mysql 表格中該值是數,還是文字,在定義 sql 語句的字串時,對每個值都需要轉化為字串;
  • 拷貝自己的程式碼時,忘記修改databasename。

二、sql語句:搜尋查詢

搜尋是指在資料庫的某個表格中查詢符合特定條件的資料,並返回查詢結果。其基本結構為:

SELECT 【範圍】FROM table_name 【條件】; 其中,範圍是必須指定的,而條件可有可無。

變數A:範圍,是指返回查詢結果的範圍。

返回該表格的所有欄位,用 * 表達:

SELECT * FROM table_name ;

僅返回該表格的某個欄位:

SELECT column_name FROM table_name ;

僅返回該表格的多個欄位:

SELECT column_name_1,column_name_3,column_name_3 FROM table_name ;

僅返回符合條件的資料個數:

SELECT count(*) FROM table_name ;

變數B:條件是指,期望返回的資料滿足哪些條件。

不限定條件:

SELECT * FROM table_name ;

數值類:某個欄位(數值型別的,比如double或者int),數值比較的操作符都可以使用比如,大於>,小於<,等於 = ,大於等於 >= ,小於等於 <=

SELECT * FROM table_name WHERE num_column_name >= 1;

文字類:某個欄位(字串型別的,比如char,text):

SELECT * FROM table_name WHERE str_column_name like “%your_str%”;

也可以表達多個條件,andor等可用於表達條件之間的關係:

SELECT * FROM table_name WHERE num_column_name_1 >= 1 and  str_column_name like “%your_str%” ;

三、sql語句:修改表屬性

橫向的一整條資料,叫做行;豎向的一整條資料,叫作列。列的名字,叫做 column,這是通用的知識點。

這段時間的實戰中,我完全沒有用到修改表的名稱、重設index等知識點。最常用的,就是對列進行操作。每個列具備:列的名稱、列的屬性、列的數值。

列的名稱,需要留心不使用保留詞。我的技巧是,儘量用一些_來表達該資料,比如 article_titlepress_date 這種命名雖然稍長,但易讀,也不會裝上保留詞。

列的屬性包括:型別,最大長度,是否為空,預設值,是否重複,是否為索引。通常,直接通過 pandaspd.io.sql.to_sql() 一次性建立表格並儲存資料時,列的預設屬性並不合需求。要麼提前自己定義表的結構,設定好每列屬性;要麼事後檢查列屬性,並逐列修改。所以,列的屬性設定、修改是高頻基礎知識點。

列的數值,即除了列名稱外的、該列其它值。修改某個值,也是高頻操作。不過我把這個知識點放到第四部分了。

對列的名稱、列的屬性進行修改,主要的關鍵詞都是 ALTER,具體又分為以下幾種情況。

情境A:新增一列。關鍵詞 ADD

在你所指定的 column_name 後面定義列的屬性。

ALTER TABLE table_name ADD COLUMN column_name char(20);

情境B:修改某列的名稱。關鍵詞 CHANGE

在修改列名的同時也可以重新指定列的屬性。

ALTER TABLE table_name CHANGE old_column_name new_column_name char(50);

情境C:修改某列的屬性。關鍵詞是 MODIFY

ALTER TABLE table_name MODIFY column_name char(100);

四、sql語句:資料的增改刪

通常提到資料庫操作時,四字以蔽之:增刪改查。

  • 查詢,請看第二部分。關鍵詞是 SELECT
  • 對資料所依賴的屬性的增、改,請看第三部分。關鍵詞是 ALTER
  • 資料的增加,在第一部分的資料互動中也給出例項,就不重複了。關鍵詞是INSERT
  • 資料的修改,關鍵詞是 UPDATE
  • 資料(甚至表格、庫)的刪除,關鍵詞是DELETE

資料的修改,副關鍵詞是 set

UPDATE table_name SET columns_name = new_value 【條件】;

新數值如果是數值型別的,則直接寫數值即可;如果是文字型別的,必須要加上雙引號,比如,“your_new_value”

如果把【條件】部分不寫,就相當於修改整列的值;想要修改特定範圍,就要用到條件表示式,這和前面的查詢部分是一致的,就不再重複。

資料的刪除,對於新手來說,是必須警惕的操作。因為一旦誤操作,你將無力挽回。即便是職業程式設計師,也可能犯下無疑刪庫的慘劇。其基本語句為:

DELETE FROM table_name【條件】;

想要修改特定範圍,就要用到條件表示式,這和前面的查詢部分也是一致的,稍微囉嗦兩句:不要對自己設定的條件太自信,最好先用搜索語句檢查一下,然後再執行刪除語句。

  • 刪除單行資料:新增能唯一標識該行資料的條件語句。
  • 刪除多行資料:新增能標識該範圍的條件語句。
  • 刪除整張表格:你是認真的嗎?沒有寫錯表格名字吧?! 做這項操作前,必須確認清楚自己的意圖,畢竟一旦發生,無可挽回。

如果條件留空,將保留表結構,而刪除所有資料行。想要刪除整張表格,什麼都不留下,則執行:

DELETE TABLE table_name;

俗稱的“刪庫”就是刪掉整個資料庫,雖然實戰中幾乎不會用到,但作為新手經常手誤,在練習階段安全起見,最好還是專門建立一個 database 用於練手,練完直接刪掉整個練習庫:

DELETE DATABASE database_name;

如果簡單總結下過去一個月,使用mysql的體驗,那就是:除了mysql 的安裝啟用太麻煩,資料的增刪改查比操作文字方便太多了!!完全值得容忍安裝啟用的麻煩。另外 mysql 常用語法確實簡單、非常有規律。

希望我的總結帶給你幫助。鼓勵我繼續分享,那就請點個贊吧!勘誤請留言,或挪步我的github:https://github.com/liujuanjuan1984/ucanuupnobb/issues