在搭建Hadoop叢集環境時遇到的一些問題
最近在學習搭建hadoop叢集環境,在搭建的過程中遇到很多問題,在這裡做一些記錄。
1. SSH相關的問題
問題一: ssh: connect to host localhost port 22: Connection refused
問題二: 遠端連線需要輸入密碼。
參照以下部落格即可解決:
Linux開啟SSH服務: https://www.cnblogs.com/fengbeihong/p/3307575.html
ubuntu Docker開啟ssh:https://blog.csdn.net/qq_27068845/article/details/77015432
ssh免密登陸: https://www.cnblogs.com/ivan0626/p/4144277.html
配置好後就可以使用ssh master等,隨意登陸master和slave了。
2. 在使用bin/hdfs namenode -format命令時遇到的JAVA_HOME問題。
要點一:需要配置好container中的JAVA_HOME
要點二: 需要配置好hadoop_env.sh中的JAVA_HOME
參照以下部落格解決了問題:
linux下安裝Java: https://www.cnblogs.com/liugh/p/6623530.html
主要注意點是在配置
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64/
此類的語句時,=號左右不能有空格。
3. 報 hdfs-site.xml 和 yarn-site.xml發生xml格式錯誤,仔細檢查發現是因為xml檔案的第一行不能是空行引起的。
4. 報如下錯誤:
ERROR: Attempting to launch hdfs namenode as root
ERROR: but there is no HDFS_NAMENODE_USER defined. Aborting launch.
Starting datanodes
ERROR: Attempting to launch hdfs datanode as root
ERROR: but there is no HDFS_DATANODE_USER defined. Aborting launch.
Starting secondary namenodes [localhost.localdomain]
ERROR: Attempting to launch hdfs secondarynamenode as root
ERROR: but there is no HDFS_SECONDARYNAMENODE_USER defined. Aborting launch.
或者
Starting resourcemanager
ERROR: Attempting to launch yarn resourcemanager as root
ERROR: but there is no YARN_RESOURCEMANAGER_USER defined. Aborting launch.
參考如下部落格解決:
Hadoop安裝配置(偽分散式):
https://blog.csdn.net/mxfeng/article/details/72770432?locationNum=5&fps=1