史上最完整的AirFlow2.1.2版本安裝教程
阿新 • • 發佈:2021-09-14
hello,大家好,我是阿周,上週我們講解了AirFlow的一些基本概念,請看文章:學會AirFlow排程工作流平臺,讓你告別加班,老闆還會升值加薪,但是隻知道理論知識是不行的,所以接下來我將帶領大家一塊安裝部署,通過實戰學會airflow。
1、Anaconda環境準備
由於Airflow2.1.2版本依賴於python3高階版本,但是伺服器中一般預設python2.7.5版本,如下圖:
所以,我們直接通過部署miniconda,建立虛擬python3環境就可以滿足airflow的要求。
1.1、 下載miniconda版本
yum install -y wget wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.s
1.2 安裝 minicopnda
直接在伺服器中安裝下載的miniconda
sh Miniconda3-latest-Linux-x86_64.sh
1.3、 一直按 enter 鍵,然後輸入 yes,最後輸入n
1.4 配置conda環境變數
1.4.1 配置conda環境變數
vi /etc/profile
#重新整理配置 source /etc/profile
1.5、 配置conda 映象源
conda config --set show_channel_urls yes vi ~/.condarc ##新增下面內容
channels: - https://mirrors.ustc.edu.cn/anaconda/pkgs/free/ - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free - defaults show_channel_urls: true
1.6、 安裝jupyter (miniconda3預設沒有jupyter ,完整版的Anaconda3有jupyter,所以根據版本忽略)
pip install jupyter
1.7、 配置jupyter
""" 第一步 生成配置檔案 """ jupyter notebook --generate-config --allow-root //配置檔案生成在:/root/.jupyter/jupyter_notebook_config.py """ 第二步 生成密碼 """ jupyter notebook password //密碼設定的是 123456 自己設定 檔案生成在 /root/.jupyter/jupyter_notebook_config.json """ 第三步 編輯/root/.jupyter/jupyter_notebook_config.py檔案 """ vim /root/.jupyter/jupyter_notebook_config.py c.NotebookApp.ip = '192.168.244.161' c.NotebookApp.open_browser = False c.NotebookApp.port = 8888 c.NotebookApp.password = 'argon2:$argon2id$v=19$m=10240,t=10,p=8$Z4FzhnirRGrPwhwg2oWa9A$b5KuKRMr9l+zyK2I0W6KCA' //該密碼在上面有生成
1.8、關閉防火牆
systemctl stop firewall
2、Mysql資料庫安裝
這裡跳轉到我寫的一片mysql的筆記
3、mysql-connector-java-5.1.39 上傳整理(我暫時沒有用到這部分)
3.1、在對話方塊中都建立java目錄
mkdir /usr/share/java
3.2上傳jar包,百度雲如下:
連結:
https://pan.baidu.com/s/1kbZ04-Ts6npSpCLCwiqrFA
提取碼:c4hk
將mysql-connector-java-5.1.39.jar 上傳到 /usr/share/java 目錄下
3.3 修改jar名稱
mv mysql-connector-java-5.1.39.jar mysql-connector-java.jar
4、建立AirFlow環境
由於上面我們已經安裝好Miniconda,所以現在可以建立任意python版本的專案
4.1、 新建AirFlow專案 。使用python3.7.5
# 新建專案 conda create -n airflow python==3.7.5 #進入建立的airflow專案中 source activate airflow
4.2、安裝airflow依賴
pip install apache-airflow pip install apache-airflow[mysql]
4.3、生成airflow對映目錄
airflow -h
4.4、 進入airflow目錄中,修改airflow.cfg配置
#配置連線mysql 30行 sql_alchemy_conn = mysql://root:[email protected]:3306/airflow #配置登入ip和埠號 460行 web_server_host = 192.168.244.182 #設定airflow使用者名稱和密碼 #在[webserver]下面配置 447行 authenticate = True auth_backend = airflow.contrib.auth.backends.password_auth
4.5、 執行命令,設定airflow登入頁面使用者名稱和密碼
#使用者名稱:admin #郵箱 [email protected] #密碼:admin airflow users create --lastname user --firstname admin --username admin --email [email protected] --role Admin --password admin
4.6、 初始化airflow 資料庫
airflow db init
4.7關閉防火牆
systemctl stop firewalld systemctl disable firewalld
4.8、 啟動airflow叢集
airflow webserver --port 8080
4.9、 輸入使用者名稱admin,密碼:admin