1. 程式人生 > >maven專案測試HDFS讀取檔案

maven專案測試HDFS讀取檔案

1、讀取檔案

   /**
     * 測試讀取檔案
     * @throws IOException
     */
    @Test
    public void testSave() throws IOException {
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(conf);
        FSDataInputStream fis = fs.open(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt"));
        ByteArrayOutputStream baos = new ByteArrayOutputStream();
        IOUtils.copyBytes(fis,baos,1024);
        fis.close();
        System.out.println(new String(baos.toByteArray()));
    }

2、寫入檔案

    /**
     * 測試寫入檔案
     */
    @Test
    public void testWrite () throws IOException {
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(conf);
        FSDataOutputStream fos =  fs.create(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt"));
        fos.write("hello world".getBytes());
        fos.close();
    }

3、定製副本數和blocksize

 /**
     * 定製副本數和blocksize
     */
    @Test
    public void testWrite2 () throws IOException {
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(conf);
        FSDataOutputStream fos = fs.create(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt"),
                true,
                1024,
                (short)2,
                1024);
        fos.write("how are you ".getBytes());
        fos.close();

    }

修改最小區域塊大小
[[email protected] /soft/hadoop/etc/hadoop]$ cat hdfs-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
<property>
  <name>dfs.replication</name>
  <value>2</value>
</property>
<property>
   <name>dfs.namenode.fs-limits.min-block-size</name>
   <value>1024</value>
</property>
</configuration>
修改了配置檔案記得重啟Hadoop

相關推薦

maven專案測試HDFS讀取檔案

1、讀取檔案 /** * 測試讀取檔案 * @throws IOException */ @Test public void testSave()

maven專案結構中properties檔案讀取

<span style="font-family: Arial, Helvetica, sans-serif;">public class ABC{</span> private static String proFileName = "/confi

maven專案不載入頁面檔案

1.maven 的pom.xml可能有類似以下的程式碼 (1)不過濾java包裡的xml和properties檔案(預設只編譯.java檔案,其他都被過濾掉),不是導致maven專案不編譯頁面檔案的原因 <resource> <directory&

建立的maven專案,pom.xml檔案報錯解決方法

eclipse建立的maven專案,pom.xml檔案報錯解決方法 【錯誤原因一:】maven 編譯級別過低 【解決辦法:】 使用 maven-compiler-plugin 將 maven 編譯級別改為 jdk1.6 以上: <!-- java編譯外掛

在eclipse上寫maven專案時pom.xml檔案第一行一直報錯,解決辦法

  在pom.xml裡面加上一下即可,個人意見 <properties>             <maven-jar-plugin.ver

idea解決建立maven專案時web.xml檔案版本過低的情況

前言 之前介紹瞭如何在idea中部署maven的web專案,但是建立maven專案之後,發現一個小瑕疵: <!DOCTYPE web-app PUBLIC "-//Sun Microsystems, Inc.//DTD Web Application 2.3//EN"

maven專案的pom.xml檔案出現紅色錯誤提示:ArtifactTransferException: Failure to transfer

maven專案的pom.xml檔案出現紅色錯誤提示,滑鼠放上去提示: ArtifactTransferException: Failure to transfer org.deeplearning4j:deeplearning4j-ui-model:jar:0.7.1 f

如何把一個基於Maven專案所有的jar檔案快速列出到Excel?

我們在做專案的時候,有的時候根據公司法務部門的要求,我們需要把專案中用到的所有的jar檔案,整出一個Jar檔案的列表,如果專案比較小的話,還好說,如果專案比較大的話,就比較麻煩了,因為jar包之間是有直接和間接依賴的。比如在Maven的配置檔案裡顯式申明瞭A的依賴,但是A的依賴又可能依賴

HDFS讀取檔案詳解

HDFS讀取檔案 客戶端向namenode發出請求下載檔案(呢個路徑下的呢個檔案); namenode經過查詢源資料資訊,哦,發現有請求需要的資訊,然後將目標檔案的元資料返回給client,元資料包扣檔案儲存在呢些DataNode下的,呢些block,都會發給client;

一個簡單的ssm框架maven專案的相關配置檔案

父工程的pom.xml <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:

maven專案匯入出現jar檔案沒有同步釋出到自己專案的lib目錄中

最近maven專案匯入出現配置都正確且run as都可以不報錯,但啟動時報如下錯誤:嚴重: Error configuring application listener of class org.springframework.web.context.ContextLoad

IntelliJ IDEA中的Maven專案下的配置檔案釋出問題

積累,小白也有大神夢 在Idea中,如果建立Maven專案,因為它預設只能將/src/main/resources下的資原始檔釋出到伺服器中,所以我們在/src/main/java中寫的大量配置檔案是無法被髮布的,所以這樣就會出現,配置檔案載入失敗,無

maven專案 修改properties屬性檔案不用重啟

1.專案中經常變化的值, 比如 圖片伺服器路徑啊‘第三方的路徑’,都需要放到 屬性檔案裡, 怎樣才能不用重啟 修改 屬性檔案呢, public static String getPropertiesValue(String name, String key) {     

使用Idea建立maven專案無法載入pom檔案,一直出現Indexing paused during Power Save mode

今天建立一個maven專案,無法載入pom檔案,一直以為是maven的問題,發現自己倉庫地址和配置檔案地址沒有設定錯。於是看了下邊中間顯示Indexing paused during Power Save mode。一看,以為是電腦問題,省電模式,可是自己電腦沒有設定省電模式

新建maven專案時pom.xml檔案第一行報org.apache.maven.plugin.war.WarMojo的解決方法

新建maven專案的時候pom.xml檔案第一行報錯,如下: 出現這個錯誤的原因是 <plugin><groupId>org.apache.maven.plugins<

IDEA解決Maven專案編譯後classes檔案中沒有.xml問題

org.apache.ibatis.binding.BindingException: Invalid bound statement (not found): Mapper介面中的某個方法這個原因是因為maven 編譯時並沒有把 .xml 檔案放到 target資料夾下的c

Maven專案中的各個檔案的作用

maven預設的檔案存放結構如下: /專案目錄 pom.xml 用於maven的配置檔案 /src 原始碼目錄 /src/main 工程原始碼目錄

java 從hadoop hdfs讀取檔案 進行groupby並顯示為條形圖

題意:從檔案、網路或者資料庫中讀取資料(格式自定、資料自定),顯示統計結果(包括圖形兩種以上),使用者介面自定 1 讀取資料 1.1 準備資料 此資料為TPCH基準測試集中lineitem.tdl檔案中前25行 示例:第一行如下 1|1

Maven專案setting.xml配置檔案詳解

Maven專案的setting.xml檔案,主要分為兩個: 使用者的安裝: ${user.home}/.m2/settings.xml 當前使用者範圍的配置檔案; Maven安裝: maven.conf/settings.xml全局範圍配置文件

Cobertura 統計多模組maven專案測試覆蓋率

Cobertura 統計單元測試覆蓋率的機制:執行類,並在一個log檔案中記錄哪一行被執行,然後將原始碼和log檔案進行比對。 1. 簡單的情況:單模組maven專案 專案結構 原始碼 src/main/java/se/sigma/calculator/Calcula