1. 程式人生 > 其它 >史上最完整的AirFlow2.1.2版本安裝教程

史上最完整的AirFlow2.1.2版本安裝教程

hello,大家好,我是阿周,上週我們講解了AirFlow的一些基本概念,請看文章:學會AirFlow排程工作流平臺,讓你告別加班,老闆還會升值加薪,但是隻知道理論知識是不行的,所以接下來我將帶領大家一塊安裝部署,通過實戰學會airflow。

1、Anaconda環境準備
由於Airflow2.1.2版本依賴於python3高階版本,但是伺服器中一般預設python2.7.5版本,如下圖:

所以,我們直接通過部署miniconda,建立虛擬python3環境就可以滿足airflow的要求。

1.1、 下載miniconda版本

yum install -y wget
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.s

1.2 安裝 minicopnda

直接在伺服器中安裝下載的miniconda

sh Miniconda3-latest-Linux-x86_64.sh

1.3、 一直按 enter 鍵,然後輸入 yes,最後輸入n

1.4 配置conda環境變數

1.4.1 配置conda環境變數

vi /etc/profile
#重新整理配置
source /etc/profile

1.5、 配置conda 映象源

conda config --set show_channel_urls yes
vi  ~/.condarc
##新增下面內容
channels:
  - https://mirrors.ustc.edu.cn/anaconda/pkgs/free/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
  - defaults
show_channel_urls: true

1.6、 安裝jupyter (miniconda3預設沒有jupyter ,完整版的Anaconda3有jupyter,所以根據版本忽略)

pip install jupyter

1.7、 配置jupyter

""" 第一步 生成配置檔案 """
jupyter notebook --generate-config --allow-root     //配置檔案生成在:/root/.jupyter/jupyter_notebook_config.py
""" 第二步 生成密碼 """
jupyter notebook password       //密碼設定的是 123456  自己設定   檔案生成在 /root/.jupyter/jupyter_notebook_config.json
""" 第三步 編輯/root/.jupyter/jupyter_notebook_config.py檔案 """
vim  /root/.jupyter/jupyter_notebook_config.py
c.NotebookApp.ip = '192.168.244.161'
c.NotebookApp.open_browser = False
c.NotebookApp.port = 8888
c.NotebookApp.password = 'argon2:$argon2id$v=19$m=10240,t=10,p=8$Z4FzhnirRGrPwhwg2oWa9A$b5KuKRMr9l+zyK2I0W6KCA'
 //該密碼在上面有生成

1.8、關閉防火牆

systemctl stop firewall

2、Mysql資料庫安裝

這裡跳轉到我寫的一片mysql的筆記

3、mysql-connector-java-5.1.39 上傳整理(我暫時沒有用到這部分)

3.1、在對話方塊中都建立java目錄

mkdir /usr/share/java

3.2上傳jar包,百度雲如下:
連結:
https://pan.baidu.com/s/1kbZ04-Ts6npSpCLCwiqrFA

提取碼:c4hk

將mysql-connector-java-5.1.39.jar 上傳到 /usr/share/java 目錄下

3.3 修改jar名稱

mv mysql-connector-java-5.1.39.jar   mysql-connector-java.jar

4、建立AirFlow環境

由於上面我們已經安裝好Miniconda,所以現在可以建立任意python版本的專案

4.1、 新建AirFlow專案 。使用python3.7.5

# 新建專案
conda create -n airflow python==3.7.5
#進入建立的airflow專案中
source activate airflow

4.2、安裝airflow依賴

pip install apache-airflow
pip install apache-airflow[mysql]

4.3、生成airflow對映目錄

airflow -h

4.4、 進入airflow目錄中,修改airflow.cfg配置

#配置連線mysql   30行
sql_alchemy_conn = mysql://root:[email protected]:3306/airflow
 
#配置登入ip和埠號  460行
web_server_host = 192.168.244.182
 
#設定airflow使用者名稱和密碼
#在[webserver]下面配置  447行
authenticate = True
auth_backend = airflow.contrib.auth.backends.password_auth

4.5、 執行命令,設定airflow登入頁面使用者名稱和密碼

#使用者名稱:admin
#郵箱 [email protected]
#密碼:admin
airflow users create  --lastname user --firstname admin --username admin --email [email protected] --role Admin --password admin

4.6、 初始化airflow 資料庫

airflow db init

4.7關閉防火牆

systemctl stop firewalld
systemctl disable firewalld

4.8、 啟動airflow叢集

airflow webserver --port 8080

4.9、 輸入使用者名稱admin,密碼:admin