1. 程式人生 > >通過NFSv3掛載HDFS到本地目錄 -- 2續hdfs-nfs閘道器解決錯誤

通過NFSv3掛載HDFS到本地目錄 -- 2續hdfs-nfs閘道器解決錯誤

通過NFSv3掛載HDFS到本地目錄  -- 2續hdfs-nfs閘道器解決錯誤

4.8 總結 - 主要命令列表

基本順序如下:
cd /home/hdfs/hadoop-2.7.1
sbin/stop-dfs.sh
service nfs stop
service rpcbind stop
sbin/hadoop-daemon.sh --script /home/hdfs/hadoop-2.7.1/bin/hdfs start portmap
sbin/hadoop-daemon.sh --script /home/hdfs/hadoop-2.7.1/bin/hdfs start nfs3
rpcinfo -p ip-172-30-0-129
showmount -e ip-172-30-0-129
sbin/start-dfs.sh
mount -t nfs -o vers=3,proto=tcp,nolock,noacl,sync ip-172-30-0-129:/  /mnt/hdfs




4.9 主要錯誤列表
錯誤1:
[[email protected] hadoop-2.7.1]# mount -t nfs -o vers=3,proto=tcp,nolock,noacl,sync ip-172-30-0-129:/  /mnt/hdfs
mount.nfs: mounting ip-172-30-0-129:/ failed, reason given by server: No such file or directory
沒有開啟hdfs服務


錯誤2:
[[email protected] hadoop-2.7.1]# mount -t nfs -o vers=3,proto=tcp,nolock,noacl,sync ip-172-30-0-129:/  /mnt/hdfs
mount.nfs: mount system call failed
可能portmap和nfs閘道器都成功啟動了,但是,無法連結hdfs服務,可能原因許可權,或者配置錯誤。


錯誤3:
[
[email protected]
hadoop-2.7.1]# mount -t nfs -o proto=tcp,nolock,noacl,sync 172.30.0.129:/  /mnt/hdfs
mount.nfs: access denied by server while mounting 172.30.0.129:/
配置,在兩個xml檔案中,不要配置錯了。


錯誤4:
[[email protected] hadoop-2.7.1]# showmount -e 172.30.0.129
clnt_create: RPC: Program not registered


錯誤5:
如果檢查 hadoop-***-nfs3-***.log,看到類似的提示:
2016-01-23 04:27:16,788 ERROR org.apache.hadoop.hdfs.nfs.mount.RpcProgramMountd: Can't get handle for export:/
java.net.ConnectException: Call From ip-172-30-0-129/172.30.0.129 to localhost:9000 failed on connection exception: java.net.ConnectException: Connection refused; For more details see:  http://wiki.apache.org/hadoop/ConnectionRefused
表明,啟動nfs閘道器的時候,應該切換到配置中設定的使用者,(非root)。


需要檢查的其他情況:
a.) selinux, 應該關閉: sestatus -v
b.) 防火牆:應確保相應的埠開啟:service iptables status
c.) nfs配置,/etc/sysconfig/nfs,檢查是否允許版本3和版本4


參考文獻

a. http://hortonworks.com/community/forums/topic/nfs-to-hdfs-gateway-error-user-hdfs-is-not-allowed-to-impersonate-root/
b. http://stackoverflow.com/questions/25073792/error-e0902-exception-occured-user-root-is-not-allowed-to-impersonate-root
c. http://bbs.csdn.net/topics/391861078
d. http://duguyiren3476.iteye.com/blog/2209242


4.10 極簡配置
core-site.xml檔案中:
<property>
    <name>hadoop.proxyuser.nfsserver.groups</name>
    <value>*</value>
</property>
<property>
    <name>hadoop.proxyuser.nfsserver.hosts</name>
    <value>*</value>
</property>

hdfs-site.xml檔案中:
<property>
    <name>nfs.dump.dir</name>
    <value>/tmp/.hdfs-nfs</value>
</property>
<property>
    <name>nfs.rtmax</name>
    <value>1048576</value>
    <description>This is the maximum size in bytes of a READ request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's rsize(add rsize= # of bytes to the mount directive).</description>
</property>
<property>
    <name>nfs.wtmax</name>
    <value>65536</value>
    <description>This is the maximum size in bytes of a WRITE request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's wsize(add wsize= # of bytes to the mount directive).</description>
</property>
<property>
    <name>nfs.exports.allowed.hosts</name>
    <value>* rw</value>
    <description>允許所有主機對檔案有rw許可權</description>
</property>

相關推薦

通過NFSv3掛載HDFS本地目錄 -- 2hdfs-nfs解決錯誤

通過NFSv3掛載HDFS到本地目錄  -- 2續hdfs-nfs閘道器解決錯誤 4.8 總結 - 主要命令列表 基本順序如下:cd /home/hdfs/hadoop-2.7.1 sbin/stop-dfs.sh service nfs stop service rpc

通過NFSv3掛載HDFS本地目錄 -- 1安裝配置NFS

通過NFSv3掛載HDFS到本地目錄  -- 1安裝配置NFS 1. 背景 HDFS 幾乎成了 分散式計算的標配, 但是,大部分的程式,或者程式袁使用的還是POSIX或者類POSIX介面。 因此,如何適配就是個問題。 MapR 的產品,使用HDFS作為持久化的基礎,但是a

sshfs通過ssh掛載遠程目錄本地

遠程管理 pro 主頁 org 改變 ubuntu 安全 配置 做到 SSH 是一個強大且安全的工具,我們除了可以用它來遠程管理主機外,還可以通過它建立 SSH tunnel 作 Proxy 用,遠程傳輸文件等等。而這裏我想要介紹另外一個功能,那就是結合 sshfs 這個工

linux通過cifs掛載windows共享目錄

nis 家庭 方式 com 查看 tail mini 共享文件夾 malformed 1、在linux上執行以下命令: [root@localhost ~]# mount -t cifs -o username=shenhb,password=111111,iochars

CentOS 7安裝SSHFS 實現遠端主機目錄 掛載本地目錄

安裝sshfs 官方下載地址 https://github.com/libfuse/sshfs/releases 首先,我們需要安裝sshfs軟體。sshfs是一個基於SSH檔案傳輸協議的檔案系統客戶端,它的官方網頁是:http://fuse.sourceforge.net/sshfs.html

linux通過mount掛載windows共享目錄

linux通過mount掛載windows共享目錄 192.168.11.11 是windows,先共享出test,設定好帳號密碼 在linux上執行: mount -t cifs -o username=&quot;test",password="tes

通過sshfs掛載遠端伺服器目錄

sshfs是基於fuse構建的ssh檔案系統客戶端程式,通過ssh協議來掛載遠端檔案系統,方便而且安全 首先我們需要安裝 FUSE for macOS 和 sshfs address 或者通過 b

Spring Cloud Zuul(API服務)(2

路由詳情 傳統路由配置 傳統路由配置方式就是在不依賴與服務發現機制的情況下,通過在配置檔案中具體指定每個路由表示式與服務例項的對映關係來實現API閘道器對外部請求的路由。 單例項配置:通過zuul.routes.<route>.path與zuul.routes.<r

【.NET Core專案實戰-統一認證平臺】第四章 篇-資料庫儲存配置(2

【.NET Core專案實戰-統一認證平臺】開篇及目錄索引 上篇文章我們介紹瞭如何擴充套件Ocelot閘道器,並實現資料庫儲存,然後測試了閘道器的路由功能,一切都是那麼順利,但是有一個問題未解決,就是如果閘道器配置資訊發生變更時如何生效?以及我使用其他資料庫儲存如何快速實現?本篇就這兩個問題展開講解,

ECS通過iptables ,配置SNAT代理,實現區域網上網

場景說明: 本文將介紹如何通過為VPC中Linux系統的ECS例項配置SNAT,實現無公網ECS通過有EIP的伺服器代理訪問公網。 步驟: 1、使用SSH的方法登陸一個已經繫結EIP外網的ECS例項。 2、執行以下命令,開啟IP核心轉發功能。 sed -i 's/net.ipv4.ip_f

springcloud2+gateway配置中心2(包含熔斷,jwt認證,限流)

下面介紹1未講完的閘道器功能    1重試功能,配置如下         這裡可以不寫實現類,採用預設的方式配置,然後傳送一個http的GET請求,試著斷開服務端檢視後臺:  證明配置正確,起作用了!

使用zabbix-java-gateway可以通過來監聽多個JVM

我們知道監控主機和網路效能指標情況可以使用zabbix很好解決,分析起來也很方便,Zabbix主要功能: - 自動發現伺服器與網路裝置 - 分散式監視以及WEB集中管理功能 - 可以無agent監視 - 使用者安全認證和柔軟的授權方式 - 通過WEB介面設定或檢視監視結果

通過Zuul實現檔案上傳

上傳檔案含有中文名,需要為上傳路徑新增 /zuul 字首(當前版本貌似已經修復,不需要新增 /zuul 字首也可以) 對於小檔案(1M以內)上傳無需任何處理,對於大檔案(10M以上)上傳,需要為上傳路徑新增 /zuul 字首,也可以使用 zuul.servlet-pat

嘴哥有料系列-can教程2:CAN及CAN訊號轉發機制

原文章:https://mp.weixin.qq.com/s/qbUcZngSDClx9Ll5aKvlLg 上節課, 我們講到了CAN閘道器, 其實準確的說不能叫CAN閘道器, 應該叫閘道器或者汽車閘道器, 因為閘道器不僅處理CAN網路, 還處理LIN網路. 主

通過zuul請求服務有時候個別請求時候"timestamp":"2018-09-07 11:45:38","status":500,"error":"Internal Server Error"

之前這個一開始問題分析是閘道器超時配置時間太短的原因,隨後開始調大閘道器時間: 閘道器的三種時間配置 ribbon: ReadTimeout: 5000 ConnectTimeout: 5000 Max

《ServerSuperIO Designer IDE使用教程》-2.與硬體資料互動,並進行資料級聯轉發,直到雲端。釋出:v4.2.1版本

v4.2.1 更新內容:1.重新定義資料轉發文字協議,使閘道器與ServerSuperIO以及之間能夠相關互動資料。2.擴充套件ServerSuperIO動態資料類的方法,更靈活。3.修復Designer增加轉發任務的一個BUG。4.修改資料轉發客戶端和服務端。5.增加硬體閘道器驅動。 v4.2.1 下

Spring Cloud 2-Zuul 服務(六)

Spring Cloud  Zuul    1.pom.xml 2.application.yml Application.java &nb

Go 開源 API-Gateway 2.6.0.RC 釋出,年前最後一個版本

   新特性 支援API級別的流控(優先順序高於Server的配置) 支援API級別的熔斷(優先順序高於Server的配置) 優化 調整日誌輸出 更新文件 修復 #115 api的超時設定無效問題 快速體驗 docker pull&nb

關於在spring boot中通過zuul上傳檔案使用MultipartFile獲取的方式出現檔名中文亂碼的問題

配置檔案中加入 spring.http.encoding.force=true spring.http.encoding.charset=utf-8 spring.http.encoding.enabled=true server.tomcat.uri-encodi

win7 批處理獲取本地

@echo off rem 打cmd rem 輸入ipconfig /all | find /i "IP address" rem 發現兩行東西顯示 rem 兩行作文字檔案傳送給for程式體析 rem tokens=15表示文字檔案第15引數始讀取 rem 預設隔符空格