1. 程式人生 > >hadoop fs -put 上傳檔案失敗

hadoop fs -put 上傳檔案失敗

16/10/08 21:35:27 WARN hdfs.DFSClient: DataStreamer Exception
org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /aaa/aa.txt._COPYING_ could only be replicated to 0 nodes instead of minReplication (=1). There are 0 datanode(s) running and no node(s) are excluded in this operation.
at org.apache.hadoop.hdfs.server.blockmanagement.BlockManager.chooseTarget4NewBlock(BlockManager.java:1550)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:3286)
at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.addBlock(NameNodeRpcServer.java:676)
at org.apache.hadoop.hdfs.server.namenode.AuthorizationProviderProxyClientProtocol.addBlock(AuthorizationProviderProxyClientProtocol.java:212)
at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.addBlock(ClientNamenodeProtocolServerSideTranslatorPB.java:483)
at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:617)
at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:1060)
at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2086)
at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2082)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1671)
at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2080)

at org.apache.hadoop.ipc.Client.call(Client.java:1466)
at org.apache.hadoop.ipc.Client.call(Client.java:1403)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:230)
at com.sun.proxy.$Proxy9.addBlock(Unknown Source)
at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.addBlock(ClientNamenodeProtocolTranslatorPB.java:399)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:256)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:104)
at com.sun.proxy.$Proxy10.addBlock(Unknown Source)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.locateFollowingBlock(DFSOutputStream.java:1674)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.nextBlockOutputStream(DFSOutputStream.java:1471)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.run(DFSOutputStream.java:668)

put: File /aaa/aa.txt._COPYING_ could only be replicated to 0 nodes instead of minReplication (=1). There are 0 datanode(s) running and no node(s) are excluded in this operation.

解決:關閉所有節點的防火牆 service Iptables stop

相關推薦

hadoop fs -put 檔案失敗

16/10/08 21:35:27 WARN hdfs.DFSClient: DataStreamer Exception org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /aaa/aa.tx

【Linux】CentOS Linux 7.4系統檔案失敗:sftp put: failed to upload d:/0data/test.txt Failure

CentOS Linux 7.4系統上傳檔案失敗 場景: 使用SecureCRT軟體下sftp長傳一個幾十M的檔案上傳失敗,報錯如下:sftp put: failed to upload d:/0data/test.txt Failure 解決: 一開始以為是CRT軟體的問題,但使用Xs

關於php獲取檔案失敗的問題

通過在php檔案中打印出$_FILES['userfile']['error'] 錯誤程式碼,然後根據錯誤程式碼來分析問題。 值:0; 沒有錯誤發生,檔案上傳成功。 值:1; 上傳的檔案超過了 php.ini 中 upload_max_filesize 選項限制的值。 值

記在k8s的pod使用apache的commons-net:ftp功能時,ftp一直檔案失敗

    在k8s的pod上使用apache的commons-net:ftp功能時,一直顯示:          即上傳檔案失敗,但是在本地環境進行上傳時卻又顯示上傳成功,讓人十分不解。在網上搜

WordPress安裝主題失敗檔案失敗問題解決辦法

因為阿里雲伺服器總是提示某個網站有木馬,而且這個網站很low,所以刪除原來的原始碼,重新安裝下。但是安裝後無法更新主題,用了在CSDN上看到的方法,直接在WordPress官網上下載主題,然後上傳到伺服器的方法,但是上傳檔案又會出問題。 其實看:https://blog.csdn.net/q

tomcat和nginx的檔案失敗的解決方法

TOMCAT     問題的根源:tomcat預設設定能接收HTTP POST請求的大小最大為2M,如果你的POST請求傳遞的資料大於2M,就會報錯誤。     解決的辦法:修改tomcat的配置檔案C:/MinyooCMS/tomcat/conf/server.xml(或

cuteftp檔案失敗,提示許可權失敗

記事: 通過cuteftp在伺服器的linux上搭建gcc交叉編譯工具鏈時,發現上傳檔案失敗並且提示許可權不足,於是百度得知新建的資料夾許可權可能不足,於是通過“”chmod 許可權 檔案/資料夾” 方法修改許可權後成功上傳檔案。

Linux下tftp檔案失敗的幾條原因

1.  Error code 0: Permission denied 主目錄沒有寫許可權, 可以 chmod  0777  /var/lib/tftpboot 2.Error code 1: File not found 在/etc/xinetd.d/tftp配置檔案中

uploadify在火狐下檔案失敗解決方案

專案上線後,客戶反映在火狐下上傳檔案失敗,測了一下果真如此;debug了下一看每次進入許可權過濾器時session都為空,然後在網上查了一大堆資料; 最後發現是falsh上傳的問題sessionid變了,這個在uploadify官網有闡述;所以只要把sessionid傳進回

使用fetch檔案失敗的解決方案

下午在工作中遇到了一個問題,就是用fetch上傳excel檔案,開始以為很簡單,結果花了一下午才解決。 一開始使用fetch(url,formData) ,也設定了content-type:multipart/form-data,但是後臺怎麼也拿不到檔案,用ajax可以正常

FileZilla遠端檔案失敗原因和解決辦法

使用FileZilla遠端管理伺服器檔案是很方便的  在使用其下載檔案往往能夠成功,上傳卻總是失敗!狀況如下 狀態:開始上傳 F:\sshd\info.php 狀態:讀取“/var/www/html”

log沒有打出, rz -bye時提示core dump, scp檔案失敗, 今天是怎麼了!!!------都是磁碟滿了惹的火

       開發除錯的時候, 經常會遇到一些異常, 有的很棘手。 但如果每次嘗試去解決問題, 積累多了, 總結多了, 自然就有能快速知道原因了, 這就是所謂的經驗吧。        今天,        該打的log沒有打出, log戛然而已, 我開始以為core dum

C#中PUT和POST檔案

HttpClient中上傳檔案 上一篇主要是提到了HttpClient幫助類,這次針對於上傳檔案進行補充,僅做記錄 public static string HttpUploadFile(string url, string path) {

Hadoop檔案報錯could only be written to 0 of the 1 minReplication nodes.

報錯:org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /home/navy/files/yc.txt could only be written to 0 of the 1 minReplic

Windows 的java客戶端實現檔案到Linux的Hadoop叢集(注意ip和埠是否一致)

我這幾天一直在學大資料,處於入門階段,然後老師的視訊中教學有用windows的java客戶端上傳檔案到Linux的Hadoop叢集, 但是這邊出BUG了一直上傳不上去,執行程式後一直沒反應。。。。弄了幾天(雖然這幾天在做前端專案~~~) 然後問群裡的大佬,他們說應該是ip和埠

Hadoop學習——hdfs讀取刪除檔案的過程

Hadoop學習——hdfs上傳讀取刪除檔案的過程 namnode,名位元組點,最主要管理HDFS的元資料資訊。 datanode,資料節點,儲存檔案塊 replication,檔案塊的副本,目的是確保資料儲存的可靠性 rack 機器 Clien

Hadoop建立(檔案

1、本地建立檔案(shell) 備註: 1) 該檔案第一行有誤,故此報錯(command not found),應該是:#my first shell test 2) shell的 if 語法比較坑,不像java中可以隨意換行 2、上傳到Hadoop 將本地檔案myfirst.

hadoop錯誤解決辦法:-------HDFS檔案儲存錯誤或速度很慢

出現症狀: 2018-11-22 11:28:12,711 WARN hdfs.DataStreamer: Abandoning BP-2142139802-10.20.2.1-1536240602405:blk_1073765062_24289 2018-11-22 11:28:12,71

解決python中requests檔案遇到中文名檔案時,失敗的問題

本人使用的是Python3.4.3為例:    找到C:\Python34\Lib\site-packages\urllib3\fields.py檔案將: result = '%s="%s"' % (name, value) try:

使用HttpURLConnection的put或者post請求檔案

HttpURLConnection為java本身提供的傳送http請求的工具,今天遇到需要用put請求上傳檔案的需求,記錄下: 首先分析下put請求的格式,使用postman的put請求傳送一個檔案,由於現在有springboot,實現一個接受put請求傳送檔