2HDFS的I/O流操作

2.1HDFS檔案上傳

1．需求：把本地e盤上的banhua.txt檔案上傳到HDFS根目錄

2．編寫程式碼

@Test
public void putFileToHDFS() throws IOException, InterruptedException, URISyntaxException {

    // 1 獲取檔案系統
    Configuration configuration = new Configuration();
    FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9000"), configuration, "atguigu");

    // 2 建立輸入流
    FileInputStream fis = new FileInputStream(new File("e:/banhua.txt"));

    // 3 獲取輸出流
    FSDataOutputStream fos = fs.create(new Path("/banhua.txt"));

    // 4 流對拷
    IOUtils.copyBytes(fis, fos, configuration);

    // 5 關閉資源
    IOUtils.closeStream(fos);
    IOUtils.closeStream(fis);
    fs.close();
}
 

2,2HDFS檔案下載

1．需求：從HDFS上下載banhua.txt檔案到本地e盤上

2．編寫程式碼

// 檔案下載
@Test
public void getFileFromHDFS() throws IOException, InterruptedException, URISyntaxException{

    // 1 獲取檔案系統
    Configuration configuration = new Configuration();
    FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9000"), configuration, "atguigu");
        
    // 2 獲取輸入流
    FSDataInputStream fis = fs.open(new Path("/banhua.txt"));
        
    // 3 獲取輸出流
    FileOutputStream fos = new FileOutputStream(new File("e:/banhua.txt"));
        
    // 4 流的對拷
    IOUtils.copyBytes(fis, fos, configuration);
        
    // 5 關閉資源
    IOUtils.closeStream(fos);
    IOUtils.closeStream(fis);
    fs.close();
}
 

2.3 定位檔案讀取

1．需求：分塊讀取HDFS上的大檔案，比如根目錄下的/hadoop-2.7.2.tar.gz

2．編寫程式碼

（1）下載第一塊

@Test
public void readFileSeek1() throws IOException, InterruptedException, URISyntaxException{

    // 1 獲取檔案系統
    Configuration configuration = new Configuration();
    FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9000"), configuration, "atguigu");
        
    // 2 獲取輸入流
    FSDataInputStream fis = fs.open(new Path("/hadoop-2.7.2.tar.gz"));
        
    // 3 建立輸出流
    FileOutputStream fos = new FileOutputStream(new File("e:/hadoop-2.7.2.tar.gz.part1"));
        
    // 4 流的拷貝
    byte[] buf = new byte[1024];
        
    for(int i =0 ; i < 1024 * 128; i++){
        fis.read(buf);
        fos.write(buf);
    }
        
    // 5關閉資源
    IOUtils.closeStream(fis);
    IOUtils.closeStream(fos);
fs.close();
}
 

（2）下載第二塊

@Test
public void readFileSeek2() throws IOException, InterruptedException, URISyntaxException{

    // 1 獲取檔案系統
    Configuration configuration = new Configuration();
    FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9000"), configuration, "atguigu");
        
    // 2 開啟輸入流
    FSDataInputStream fis = fs.open(new Path("/hadoop-2.7.2.tar.gz"));
        
    // 3 定位輸入資料位置
    fis.seek(1024*1024*128);
        
    // 4 建立輸出流
    FileOutputStream fos = new FileOutputStream(new File("e:/hadoop-2.7.2.tar.gz.part2"));
        
    // 5 流的對拷
    IOUtils.copyBytes(fis, fos, configuration);
        
    // 6 關閉資源
    IOUtils.closeStream(fis);
    IOUtils.closeStream(fos);
}

（3）合併檔案

在Window命令視窗中進入到目錄E:\，然後執行如下命令，對資料進行合併

typehadoop-2.7.2.tar.gz.part2 >>hadoop-2.7.2.tar.gz.part1

合併完成後，將hadoop-2.7.2.tar.gz.part1重新命名為hadoop-2.7.2.tar.gz。解壓發現該tar包非常完整。