Mysql DBA 高級運維學習筆記-MySQL高可用工具drbd實戰
Distributed Replicated Block Device (DRBD)是基於塊設備在不同的高可用服務器對之間同步和鏡像數據的軟件,通過它可以實現在網絡中的兩臺服務器之間基於塊設備級別的實時或異步鏡像或同步復制,類似於rsync+inotify這樣的系統架構項目軟件。只不過drbd是基於文件系統底層的,即block層級的同步,而rsync+inotify是在文件系統之上的實際物理文件同步。所以dbrd效率更高。
塊設備可以是磁盤分區,LVM邏輯卷,或整塊磁盤。
2.DRBD的工作原理
DRBD是linux的內核的存儲層中的一個分布式存儲系統,可用使用DRBD在兩臺Linux服務器之間共享塊設備,共享文件系統和數據。類似於一個網絡RAID-1的功能,在基於DBRD的高可用(HA)兩臺服務器主機上,當我們將數據寫入到本地磁盤系統時,數據還會被實時的發送到網絡中的另一臺主機上並以相同的形式記錄在另一個磁盤系統中,使得本地(主節點)與遠程主機(備節點)的數據保持實時數據同步。這時,如果本地系統(主節點)出現故障,那麽遠程主機(備節點)上還會保留有一份和主節點相同的數據備份可以繼續使用,不但數據不會丟失,還會提升訪問數據的用戶的體驗。更多詳細請查看dbrd官方網站http://www.dbrd.org/
3.DRBD的復制模式
協議A:
異步復制協議。一旦本地磁盤寫入已經完成,數據包已在發送隊列中,則寫被認為是完成的。在一個節點發生故障時,可能發生數據丟失,因為被寫入到遠程節點上的數據可能仍在發送隊列。盡管,在故障轉移節點上的數據是一致的,但沒有及時更新。這通常是用於地理上分開的節點
協議B:
內存同步(半同步)復制協議。一旦本地磁盤寫入已完成且復制數據包達到了對等節點則認為寫在主節點上被認為是完成的。數據丟失可能發生在參加的兩個節點同時故障的情況下,因為在傳輸中的數據可能不會被提交到磁盤。
協議C:
同步復制協議。只有在本地和遠程節點的磁盤已經確認了寫操作完成,寫才被認為完成。沒有任何數據丟失,所以這是一個群集節點的流行模式,但I / O吞吐量依賴於網絡帶寬。
一般使用協議C,但選擇C協議將影響流量,從而影響網絡時延。為了數據可靠性,我們在生產環境使用時須慎重選項使用哪一種協議。
4.DBRD的企業應用場景
生產場景中drbd常用於基於高可用服務器之間的數據同步解決方案。
例如:heartbeat+drbd+nfs/mfs/gfs,heartbeat+drbd+mysql/oracle等。實際上drbd可以配合任意需要數據同步的所有服務的應用場景。
5.常見的數據同步工具
(1)rsync(sersync,inotify,lsyncd)
(2)scp
(3)nc
(4)nfs(網絡文件系統)
(5)union雙機同步
(6)csync2多機同步
(7)軟件的自身同步機制(mysql,oracle,mongdb,ttserver,redis..)文件放到數據庫,同步到從庫,再把文件拿出來。
(8)Drbd
6.部署Drbd服務需求描述
6.1 業務需求描述
業務需求可以結合前面配置的heartbeat來搭建dbrd服務,hearbeat的安裝和部署我前面的文章已經寫了。主服務器為heartrbeat-1-130,從服務器為heartbeat-1-129。
6.2 DRBD部署結構圖
(1)Drbd服務通過直連線或以太網實時互相數據同步。
(2)兩臺存儲服務器互相備份,正常情況下兩端各提供一個主分區供NFS使用。
(3)存儲服務器之間,存儲服務和交換機之間都是雙千兆網卡綁定。
(4)應用服務器通過NFS訪問存儲。
7.DRBD軟件安裝實驗準備
7.1 操作系統:
CentOS-6.8-x86_64
7.2 DRBD服務主機資源準備
主服務器A:
主機名:heartbeat-1-130
eth0網卡地址:192.168.1.130(管理IP)
eth1網卡地址:10.0.10.4 (心跳IP)
從服務器B:
主機名:heartbeat-1-129
eth0網卡地址:192.168.1.129(管理IP)
eth1網卡地址:10.0.10.5(心跳IP)
虛擬VIP:
虛擬VIP在主服務器heartbeat-1-130上
VIP:192.168.1.131
需要修改主機名,關閉防火墻和selinux這些準備工作和heartbeat一樣,我前面的安裝heartbeat的文章有講,這裏就不講了。就用安裝heartbeat的那兩臺機器,主服務器heartbeat-1-130,從服務器heartbeat-1-129。
7.3 創建可用分區
Drbd是基於分區的磁盤邏輯卷的,沒有可用的分區肯定不行。我們先把heartbeat-1-130和heartbeat-1-129兩個虛擬機關機,然後在主節點heartbeat-1-130上添加一塊1g的硬盤,在從節點heartbeat-1-129上添加一塊2g的硬盤。添加硬盤就不演示了,然後啟動兩臺機器。
7.4 對/dev/sdb進行分區
(1)創建分區(以從節點為例)
[root@heartbeat-1-129 ~]# fdisk /dev/sdb
Device contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabel
Building a new DOS disklabel with disk identifier 0xd3ee6f66.
Changes will remain in memory only, until you decide to write them.
After that, of course, the previous content won‘t be recoverable.
Warning: invalid flag 0x0000 of partition table 4 will be corrected by w(rite)
WARNING: DOS-compatible mode is deprecated. It‘s strongly recommended to
switch off the mode (command ‘c‘) and change display units to
sectors (command ‘u‘).
Command (m for help): n
Command action
e extended
p primary partition (1-4)
p
Partition number (1-4): 1
First cylinder (1-261, default 1):
Using default value 1
Last cylinder, +cylinders or +size{K,M,G} (1-261, default 261): +1536M
Command (m for help): p
Disk /dev/sdb: 2147 MB, 2147483648 bytes
255 heads, 63 sectors/track, 261 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xd3ee6f66
Device Boot Start End Blocks Id System
/dev/sdb1 1 197 1582371 83 Linux
Command (m for help): n
Command action
e extended
p primary partition (1-4)
p
Partition number (1-4): 2
First cylinder (198-261, default 198):
Using default value 198
Last cylinder, +cylinders or +size{K,M,G} (198-261, default 261):
Using default value 261
Command (m for help): p
Disk /dev/sdb: 2147 MB, 2147483648 bytes
255 heads, 63 sectors/track, 261 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xd3ee6f66
Device Boot Start End Blocks Id System
/dev/sdb1 1 197 1582371 83 Linux
/dev/sdb2 198 261 514080 83 Linux
Command (m for help): w
The partition table has been altered!
Calling ioctl() to re-read partition table.
Syncing disks.
[root@heartbeat-1-129 ~]# partprobe
Warning: WARNING: the kernel failed to re-read the partition table on /dev/sda (設備或資源忙). As a result, it may not reflect all of your changes until after reboot.
Warning: 無法以讀寫方式打開 /dev/sr0 (只讀文件系統)。/dev/sr0 已按照只讀方式打開。
Warning: 無法以讀寫方式打開 /dev/sr0 (只讀文件系統)。/dev/sr0 已按照只讀方式打開。
Error: 無效的分區表 - /dev/sr0 出現遞歸分區。
[root@heartbeat-1-129 ~]# fdisk -l
Disk /dev/sda: 21.5 GB, 21474836480 bytes
255 heads, 63 sectors/track, 2610 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0x0007ed95
Device Boot Start End Blocks Id System
/dev/sda1 * 1 64 512000 83 Linux
Partition 1 does not end on cylinder boundary.
/dev/sda2 64261120458496 8e Linux LVM
Disk /dev/sdb: 2147 MB, 2147483648 bytes
255 heads, 63 sectors/track, 261 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xd3ee6f66
Device Boot Start End Blocks Id System
/dev/sdb1 1 197 1582371 83 Linux
/dev/sdb2 198 261 514080 83 Linux
(2)格式化/dev/sdb1,註意/dev/sdb2不要格式化
[root@heartbeat-1-130 ~]# mkfs.ext4 /dev/sdb1
mke2fs 1.41.12 (17-May-2010)
文件系統標簽=
操作系統:Linux
塊大小=1024 (log=0)
分塊大小=1024 (log=0)
…省略…
正在寫入inode表: 完成
Creating journal (8192 blocks): 完成
Writing superblocks and filesystem accounting information: 完成
This filesystem will be automatically checked every 24 mounts or
180 days, whichever comes first. Use tune2fs -c or -i to override.
擴展:當硬盤數據超過兩T的時候,fdisk就用不了了,這是我們就要用parted這個命令。
parted非交互分區
[root@localhost ~]# parted /dev/sdb mklabel gpt
警告: The existing disk label on /dev/sdb will be destroyed and all data on this disk will be lost. Do you want to continue?
是/Yes/否/No? yes
[root@localhost ~]# parted /dev/sdb mkpart primary 0G 2G
[root@localhost ~]# parted -s /dev/sdb print
Model: VMware, VMware Virtual S (scsi)
Disk /dev/sdb: 5369MB
Sector size (logical/physical): 512B/512B
Partition Table: gpt
Number Start End SizeFile system Name 標誌
1 1049kB 2000MB 1999MB primary
提示:
a.這裏的meta data分區一定不能格式化建立文件系統。
b.格式化分好的分區現在不能直接掛在(mount)。
c.生產環境DRBD meta data分區一般可設為1-2G。
d.檢查meta data分區正常可用的方法 。
[root@heartbeat-1-130 ~]# mount /dev/sdb2 /mnt
mount: you must specify the filesystem type
出現上面結果說明meta data分區分的是對的。
8.安裝DRBD軟件
DRDB軟件可以編譯安裝也可以下載包含的源yum安裝,本次事件采用編譯安裝的方式。
8.1編譯安裝DRDB軟件(註意下面步驟兩臺機器都要操作)
(1)下載drbd軟件(兩臺機器都要操作)
可以在官網上下載http://oss.linbit.com/drbd/。
(2)安裝gcc和gcc-c++
[root@heartbeat-1-130 tools]# yum install gcc gcc-c++ -y
除了安裝gcc和gcc-c++還需要安裝其他的一些依賴包,為了防止編譯發生錯誤,最好提前安裝上,下面是我在編譯的時候需要安裝的包。
yum install dpkg dpkg-dev dpkg-devel gcc gcc-c++ git rpm-build kernel-devel kernel-headers flex -y
(3)編譯drbd
[root@heartbeat-1-130 tools]# pwd
/home/linzhongniao/tools
[root@heartbeat-1-130 tools]# export LC_ALL=C
[root@heartbeat-1-130 tools]# ls
drbd-8.4.4.tar.gz
[root@heartbeat-1-130 tools]# tar –xf drbd-8.4.4.tar.gz
[root@heartbeat-1-130 tools]# cd drbd-8.4.4
[root@heartbeat-1-129 drbd-8.4.4]# ./configure --prefix=/usr/local/drbd8.4.4 --with-km --with-heartbeat --sysconfdir=/etc/
(4)編譯出現的問題
出現下面問題yum安裝dpkg、dpkg-dev、dpkg-devel再編譯
checking for udevinfo... false
configure: WARNING: No dpkg-buildpackage found, building Debian packages is disabled.
出現下面問題yum安裝flex,重新編譯
configure: error: Cannot build utils without flex, either install flex or pass the --without-utils option.
(5)加載內核
a.先查找內核源碼
[root@heartbeat-1-130 drbd-8.4.4]# ls -ld /usr/src/kernels/$(uname -r)/
ls: 無法訪問/usr/src/kernels/2.6.32-642.el6.x86_64/: 沒有那個文件或目錄
沒有內核源碼文件路徑yum安裝kernel-devel kernel-headers在查看就有了
[root@heartbeat-1-130 drbd-8.4.4]# ls -ld /usr/src/kernels/$(uname -r)/
drwxr-xr-x 22 root root 4096 3月 5 05:55 /usr/src/kernels/2.6.32-696.20.1.el6.x86_64/
如果uname –r命令顯示的系統內核和在/usr/src/kernels/下查找的系統內核不一樣怎麽辦呢,很簡單升級系統內核,重啟系統後再查看內核就一樣了。
[root@heartbeat-1-130 drbd-8.4.4]# ls -ld /usr/src/kernels/2.6.32-696.20.1.el6.x86_64/
drwxr-xr-x 22 root root 4096 Mar 6 19:24 /usr/src/kernels/2.6.32-696.20.1.el6.x86_64/
[root@heartbeat-1-130 drbd-8.4.4]# uname -r
2.6.32-642.el6.x86_64
[root@heartbeat-1-130 drbd-8.4.4]# yum -y install kernel
[root@heartbeat-1-130 ~]# uname -r
2.6.32-696.20.1.el6.x86_64
b. 加載系統內核
[root@heartbeat-1-129 drbd-8.4.4]# make KDIR=/usr/src/kernels/$(uname -r)/
[root@heartbeat-1-129 drbd-8.4.4]# echo $?
0
(6)安裝drbd
[root@heartbeat-1-129 drbd-8.4.4]# make install
echo $?為零安裝成功
9.圖片數據/data各配置參數
比較重要的是下面標黃的部分,,我們還用部署heartbeat的那個環境,heartbeat的環境部署前面文章有,這裏就不再演示了。
10.配置DRBD參數 (兩臺機器都要操作)
10.1加載DRBD模塊到內核
這個DRBD模塊在重啟電腦之後就會失效不會自動加載到系統內核中,我們可以放在/etc/rc.local裏生效,讓它開機生效。生產中是不需要放在/etc/rc.local裏面的,不讓自動啟動,自動啟動會導致一些不必要的問題。用lsmod |grep drbd查看有這個內容了就說明內核加載完成。
[root@heartbeat-1-130 drbd-8.4.4]# lsmod |grep drbd
[root@heartbeat-1-130 drbd-8.4.4]# mo
modinfo modutil mountmount.nfsmountpoint mount.tmpfs
modprobe more mount.cifs mount.nfs4 mountstats
[root@heartbeat-1-130 drbd-8.4.4]# modprobe drbd
[root@heartbeat-1-130 drbd-8.4.4]# lsmod |grep drbd
drbd 327370 0
libcrc32c 1246 1 drbd
[root@heartbeat-1-130 drbd-8.4.4]# echo ‘modprobe drbd‘ >>/etc/rc.local
[root@heartbeat-1-130 drbd-8.4.4]# tail -1 /etc/rc.local
modprobe drbd
10.2 編譯DRBD的配置文件drbd.conf
(1)配置DRBD的配置文件
DRBD的配置文件在我們編譯的時候指定的那個路徑,/etc/下。
[root@heartbeat-1-130 etc]# pwd
/etc
[root@heartbeat-1-130 etc]# cat drbd.conf
global {
usage-count no;
}
common {
syncer {
# wfc-timeout degr-wfc-timeout outdated-wfc-timeout wait-after-sb
rate 1000M;
verify-alg crc32c;
}
}
resource data {
protocol C;
disk {
on-io-error detach;
}
on heartbeat-1-130 {
device /dev/drbd0;
disk /dev/sdb1;
address 10.0.10.4:7788;
meta-disk /dev/sdb2[0];
}
on heartbeat-1-129 {
device /dev/drbd0;
disk /dev/sdb1;
address 10.0.10.5:7788;
meta-disk /dev/sdb2[0];
}
}
(2)配置文件參數說明
global {
usage-count no;
}
前三行是你全局配置,一般網站都會同居開源網站的安裝量,usage-count的值等於no,就是不允許官方統計。
common {
syncer {
# wfc-timeout degr-wfc-timeout outdated-wfc-timeout wait-after-sb
rate 1000M;
verify-alg crc32c;
}
}
Common段裏面設置了同步的速度比如1000M,crc32c是一個算法
resource data {
protocol C;
disk {
on-io-error detach;
}
on heartbeat-1-130 {
device /dev/drbd0;
disk /dev/sdb1;
address 10.0.10.4:7788;
meta-disk /dev/sdb2[0];
}
on heartbeat-1-129 {
device /dev/drbd0;
disk /dev/sdb1;
address 10.0.10.5:7788;
meta-disk /dev/sdb2[0];
}
}
上面resource段是drbd的資源,protocol C是一個實時同步數據的協議,用A或B都是異步同步或半同步,這樣會導致數據的丟失,除非業務需求數據不總要並發要求高的情況下。disk表示一個磁盤出現io錯誤怎麽處理。resource後面的data是drbd的資源,註意這裏resource可以有多個資源,比如說再想增加一個資源,我們可以把resource這段復制一個就好了,需要修改的有resource後面的資源名稱以及disk、meta-disk和同步的地址的端口號,例如7788。這裏on heartbeat-1-130的on後面跟的是機器名,註意這裏的機器名必須是uname –n返回的結果,device表示drbd的設備,disk表示drbd0對應本機器的第一個分區,address這裏的地址是一個同步的地址,meta-disk是meta設備的數據分區對應本機器的第二個分區,0是meta 設備的一個格式。
11.Enabling DRBD資源 (兩臺機器都要操作)
兩臺機器都要操作以heartbeat-1-130為例
11.1 初始化DRBD的metadata(Create device metadata)
初始化資源,註意我們初始的資源就是drbd.conf裏resource後面的data。
[root@heartbeat-1-130 drbd-8.4.4]# drbdadm create-md data
Writing meta data...
initializing activity log
NOT initializing bitmap
New drbd meta data block successfully created.
11.2 啟動DRBD服務
drbdadm up data
drbdadm up 跟的是resource設置的資源data,也可以指定所有資源drbdadm up all。
[root@heartbeat-1-130 ~]# drbdadm up data
/usr/local/drbd8.4.4/var/run/drbd: No such file or directory
/usr/local/drbd8.4.4/var/run/drbd: No such file or directory
我們看有錯誤提示/usr/local/drbd8.4.4/var/run/drbd: No such file or directory
這個目錄找不到centos6版本以上需要有這個目錄,好我們就創建一個這個目錄再啟動drbd。
[root@heartbeat-1-130 ~]# mkdir -p /usr/local/drbd8.4.4/var/run/drbd
[root@heartbeat-1-130 ~]# drbdadm up data
11.3 可以通過/proc/drbd查看drbd的狀態
[root@heartbeat-1-130 ~]# cat /proc/drbd
version: 8.4.4 (api:1/proto:86-101)
GIT-hash: 74402fecf24da8e5438171ee8c19e28627e1c98a build by root@heartbeat-1-130, 2018-03-06 21:32:41
0: cs:Connected ro:Secondary/Secondary ds:Inconsistent/Inconsistent C r-----
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:795188
這裏顯示ro:Secondary/Secondary ds:Inconsistent/Inconsistent是正確的都是從,處於無主(primary)的狀態。
11.4 同步DRBD數據到對端SERVER使數據保持一致
11.4.1 指定一個同步的資源,同步數據到對端
說明:
1.如果為空硬盤。可以隨意執行操作不需要考慮數據。
2.如果兩邊數據不一樣(要特別註意同步數據的方向,否則可能丟失數據)。
11.4.2 一個資源只能在一端同步到另一端的命令
註意:在主服務器上操作我們的主服務器是heartbeat-1-130
(1)同步數據
[root@heartbeat-1-130 ~]# drbdadm -- --overwrite-data-of-peer primary data
[root@heartbeat-1-130 ~]# cat /proc/drbd
GIT-hash: 74402fecf24da8e5438171ee8c19e28627e1c98a build by root@heartbeat-1-130, 2018-03-06 21:32:41
0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r-----
ns:344064 nr:0 dw:0 dr:344724 al:0 bm:21 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:451124
[=======>............] sync‘ed: 43.6% (451124/795188)K
finish: 0:00:10 speed: 43,008 (43,008) K/sec
[root@heartbeat-1-130 ~]# cat /proc/drbd
version: 8.4.4 (api:1/proto:86-101)
GIT-hash: 74402fecf24da8e5438171ee8c19e28627e1c98a build by root@heartbeat-1-130, 2018-03-06 21:32:41
0: cs:Connected ro:Primary/Secondary ds:UpToDate/UpToDate C r-----
ns:795186 nr:0 dw:0 dr:795846 al:0 bm:49 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:0
(2)參數說明
以主節點為例
cs:Connected:Connected是連接的狀態,用zabbix做監控主要看Connected。
ro:Primary/Secondary: Primary是主,Secondary是從;也就是說本地是主對端是從。
ds:UpToDate/UpToDate:UpToDate是兩邊都更新完成。
12.可能出現的問題及解決方法
cs:Connected ro:Secondary/Secondary ds:Inconsistent/Inconsistent C r-----
解決方法:
1.檢查兩臺物理網絡連接或者IP及主機路由是否正確。
2.停止iptables防火墻。
3.還可能是發生列腦導致的結果。
可以嘗試用下面的方法解決
在從節點slave上操作:
drbdadm Secondary data
drbdadm -- --discard-my-data connect data ---> 丟棄本端數據進行連接
在主節點上操作
通過查看cat/proc/drbd狀態,如果不是WFConnection狀態,則需要手動連接
drbdadm connect data
cat /proc/drbd查看兩端狀態
13.掛載測試數據庫同步及查看備節點同步狀態
(1)創建DRBD文件系統
[root@heartbeat-1-130 ~]# mkdir /data
[root@heartbeat-1-130 ~]# mkfs.ext3 /dev/drbd0
mke2fs 1.41.12 (17-May-2010)
文件系統標簽=
操作系統:Linux
塊大小=4096 (log=2)
分塊大小=4096 (log=2)
Stride=0 blocks, Stripe width=0 blocks
49728 inodes, 198796 blocks
9939 blocks (5.00%) reserved for the super user
第一個數據塊=0
Maximum filesystem blocks=205520896
7 block groups
32768 blocks per group, 32768 fragments per group
7104 inodes per group
Superblock backups stored on blocks:
32768, 98304, 163840
正在寫入inode表: 完成
Creating journal (4096 blocks): 完成
Writing superblocks and filesystem accounting information: 完成
This filesystem will be automatically checked every 24 mounts or
180 days, whichever comes first. Use tune2fs -c or -i to override.
[root@heartbeat-1-130 ~]# tune2fs -c 0 -i 0 /dev/drbd0
tune2fs 1.41.12 (17-May-2010)
Setting maximal mount count to -1
Setting interval between checks to 0 seconds
[root@heartbeat-1-130 ~]# mount /dev/drbd0 /data
(2)測試備節點數據同步情況
先在主節點的DRBD文件系統中插入數據,我們插入個20個文件
[root@heartbeat-1-130 data]# touch ‘seq 10‘
[root@heartbeat-1-130 data]# ls
1 10 2 3 4 5 6 7 8 9 lost+found
[root@heartbeat-1-130 data]# touch `seq 10 20`
查看備節點的數據同步情況,需要先掛載DRBD存儲設備,我們看數據已經同步過來了。
[root@heartbeat-1-129 ~]# mount /dev/sdb1 /mnt
mount: you must specify the filesystem type
[root@heartbeat-1-129 ~]# drbdadm down data
[root@heartbeat-1-129 ~]# mount /dev/sdb1 /mnt
[root@heartbeat-1-129 ~]# ll /mnt/
總用量 16
-rw-r--r-- 1 root root 0 3月 7 00:41 1
-rw-r--r-- 1 root root 0 3月 7 00:43 10
-rw-r--r-- 1 root root 0 3月 7 00:43 11
-rw-r--r-- 1 root root 0 3月 7 00:43 12
-rw-r--r-- 1 root root 0 3月 7 00:43 13
-rw-r--r-- 1 root root 0 3月 7 00:43 14
-rw-r--r-- 1 root root 0 3月 7 00:43 15
-rw-r--r-- 1 root root 0 3月 7 00:43 16
-rw-r--r-- 1 root root 0 3月 7 00:43 17
-rw-r--r-- 1 root root 0 3月 7 00:43 18
-rw-r--r-- 1 root root 0 3月 7 00:43 19
-rw-r--r-- 1 root root 0 3月 7 00:41 2
-rw-r--r-- 1 root root 0 3月 7 00:43 20
-rw-r--r-- 1 root root 0 3月 7 00:41 3
-rw-r--r-- 1 root root 0 3月 7 00:41 4
-rw-r--r-- 1 root root 0 3月 7 00:41 5
-rw-r--r-- 1 root root 0 3月 7 00:41 6
-rw-r--r-- 1 root root 0 3月 7 00:41 7
-rw-r--r-- 1 root root 0 3月 7 00:41 8
-rw-r--r-- 1 root root 0 3月 7 00:41 9
drwx------ 2 root root 16384 3月 7 00:38 lost+found
Mysql DBA 高級運維學習筆記-MySQL高可用工具drbd實戰