shell指令碼連線、讀寫、操作mysql資料庫例項
本文介紹瞭如何在shell中讀寫mysql資料庫。主要介紹瞭如何在shell 中連線mysql資料庫,如何在shell中建立資料庫,建立表,插入csv檔案,讀取mysql資料庫,匯出mysql資料庫為xml或html檔案, 並分析了核心語句。本文介紹的方法適用於PostgreSQL ,相對mysql而言,shell 中讀寫PostgreSQL會更簡單些。
1. 連線mysql 資料庫
shell中連線資料庫的方法很簡單,只需要指定使用者名稱,密碼,連線的資料庫名稱,然後通過重定向,輸入mysql的語句,如下所示:
show databases;
EOF
但這並不是一個好辦法,任何使用該指令碼的使用者都能看到該資料庫使用者的賬號和密碼,要解決這個問題,可以用mysql 資料庫的一個特殊配置檔案。mysql 資料庫使用$HOME/.my.cnf 檔案來讀取特殊的啟動命令和設定。其中一項設定是由該使用者賬戶發起的mysql 會話的預設密碼。要在這個檔案中設定預設密碼,可以加入下面的內容:
[client]
password = 123456
然後,別忘了修改許可權:
chmod 400 .my.cnf
這樣就可以通過指令碼訪問mysql資料庫了,如下所示:
#!/bin/bash
MYSQL=`which mysql`
$MYSQL test -u root << EOF
show databases;
show tables;
select * from employees where salary > 4000;
EOF
2. 建立資料庫
通過上面的方法連線資料庫,再通過重定向輸入mysql語句,shell中讀寫mysql基本就介紹完了。只要把sql語句寫對了,通過重定向執行即可,下面來看一個例項:
#!/bin/bash
##############################
# @file create_db_mysql.sh
# @brief create database and tables in mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
##############################
USER="root"
DATABASE="students"
TABLE="students"
######################
#crate database
mysql -u $USER << EOF 2>/dev/null
CREATE DATABASE $DATABASE
EOF
[ $? -eq 0 ] && echo "created DB" || echo DB already exists
######################
#create table
mysql -u $USER $DATABASE << EOF 2>/dev/null
CREATE TABLE $TABLE(
id int,
name varchar(100),
mark int,
dept varchar(4)
);
EOF
[ $? -eq 0 ] && echo "Created table students" || echo "Table students already exist"
######################
#delete data
mysql -u $USER $DATABASE << EOF 2>/dev/null
DELETE FROM $TABLE;
EOF
這個指令碼比較簡單,就是幾條SQL語句,沒什麼好解釋的,下面來看一下,如何讀入csv 檔案,然後插入到mysql資料庫中。
3. 插入csv 檔案
上面建立了一個學生表,表中有學生的學號,姓名,成績,系別,假設有一個csv檔案,內容如下:
1,Navin M,98,CS
2,Kavya N,70,CS
3,Nawaz O,80,CS
4,Hari S,80,EC
5,Alex M,50,EC
6,Neenu J,70,EC
7,Bob A,30,EC
8,Anu M,90,AE
9,Sruthi,89,AE
10,Andrew,89,AE
為了將csv 檔案插入到資料庫,我們需要逐行讀入,然後給字串加上雙引號,最後生成語句如下:
複製程式碼程式碼如下:
insert into students VALUES(1, "Navin M", 98, "CS");
要解析csv 檔案,最好的工具莫過於awk了,將域的分隔符指定為逗號-F,,awk就自動將各個域拆分出來了,然後在需要雙引號的地方列印輸出一個雙引號,就能夠輕鬆得到下面這樣的資料:
複製程式碼程式碼如下: 1, "Navin M", 98, "CS" awk 程式碼如下:
query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
echo $statement
當然了,你也可以用其他辦法,不過,幾乎沒有比awk更簡單的了,第2種方法如下:
複製程式碼程式碼如下:
oldIFS=$IFS
IFS=,
values=($line)
values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""
values[3]="\"`echo ${values[3]}`\""
query=`echo ${values[@]} | tr ' #' ', '`
IFS=$oldIFS
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
echo "$statement"
首先通過指定域分隔符,將csv檔案解析成一個數組,然後將空格替換成一個特殊的符號"#"(因為後面的替換中,會一次性輸出陣列,而陣列是用空格分隔各欄位,我們要將分隔陣列的空格替換成逗號,所以這裡將資料中的空格替換成"#") ,給字串加上雙引號,最後再把空格替換成逗號,把"#"替換為空格。這種方法真是讓人抓狂,我第一次就沒有看明白,尤其是為什麼要將空格替換成"#"。
完整的插入資料的程式如下:
#!/bin/bash
#
# @file write_to_db_mysql.sh
# @brief wirte data to database in mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
#
USER="root"
DATABASE="students"
TABLE="students"
if [ $# -ne 1 ]; then
echo $0 DATAFILE
echo
exit 2
fi
data=$1
while read line;
do
# query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`
oldIFS=$IFS
IFS=,
values=($line)
values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""
values[3]="\"`echo ${values[3]}`\""
query=`echo ${values[@]} | tr ' #' ', '`
IFS=$oldIFS
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
# echo $statement
mysql -u $USER $DATABASE << EOF
INSERT INTO $TABLE VALUES($query);
EOF
done < $data
if [[ $? -eq 0 ]]; then
echo "Wrote data into DB"
fi
4. 讀取資料
知道怎麼在shell 中連線mysql ,也知道了怎麼在shell中批量執行sql 語句,讀取資料,就沒有任何難度了。
#
# @file read_db_mysql.sh
# @brief read data from mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
#
USER="root"
DATABASE="students"
TABLE="students"
#用tail 去掉表頭
depts=`mysql -u $USER $DATABASE <<EOF | tail -n +2
SELECT DISTINCT dept FROM $TABLE;
EOF`
for d in $depts; do
echo Department: $d
result="`mysql -u $USER $DATABASE << EOF
set @i:=0;
SELECT @i:=@i+1 as rank, name, mark FROM students WHERE dept="$d" ORDER BY mark DESC;
EOF`"
echo "$result"
echo
done
我們還可以在mysql語句中,使用選項來控制資料的輸出格式
-H 輸出為html
-X 輸出為xml
如下所示:
#!/bin/bash
USER="root"
DATABASE="students"
TABLE="students"
mysql -u $USER $DATABASE -H << EOF
select * from $TABLE
EOF
html 格式的可讀性比較差,輸出效果如下:
複製程式碼程式碼如下: <TABLE BORDER=1><TR><TH>id</TH><TH>name</TH><TH>mark</TH><TH>dept</TH></TR><TR><TD>1</TD><TD>Navin M</TD><TD>98</TD><TD>CS</TD></TR><TR><TD>2</TD><TD> Kavya N</TD><TD>70</TD><TD>CS</TD></TR><TR><TD>3</TD><TD> Nawaz O</TD><TD>80</TD><TD>CS</TD></TR><TR><TD>4</TD><TD>Hari S</TD><TD>80</TD><TD>EC</TD></TR><TR><TD>5</TD><TD>Alex M</TD><TD>50</TD><TD>EC</TD></TR><TR><TD>6</TD><TD>Neenu J</TD><TD>70</TD><TD>EC</TD></TR><TR><TD>7</TD><TD>Bob A</TD><TD>30</TD><TD>EC</TD></TR><TR><TD>8</TD><TD>Anu M</TD><TD>90</TD><TD>AE</TD></TR><TR><TD>9</TD><TD>Sruthi</TD><TD>89</TD><TD>AE</TD></TR><TR><TD>10</TD><TD>Andrew</TD><TD>89</TD><TD>AE</TD></TR></TABLE>
可讀性差也可以理解,因為人家覺得,你沒必要修改麼,直接以html形式展示資料就可以了。
複製程式碼程式碼如下: id name mark dept
1 Navin M 98 CS
2 Kavya N 70 CS
3 Nawaz O 80 CS
4 Hari S 80 EC
5 Alex M 50 EC
6 Neenu J 70 EC
7 Bob A 30 EC
8 Anu M 90 AE
9 Sruthi 89 AE
10 Andrew 89 AE
xml形式的資料顯示就比較正常了,直接將上面的-H 換成-X,輸出如下:
複製程式碼程式碼如下: <?xml version="1.0"?>
<resultset statement="select * from students" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<row>
<field name="id">1</field>
<field name="name">Navin M</field>
<field name="mark">98</field>
<field name="dept">CS</field>
</row>
<row>
<field name="id">2</field>
<field name="name"> Kavya N</field>
<field name="mark">70</field>
<field name="dept">CS</field>
</row>
</resultset>
完。