maven專案測試HDFS讀取檔案
1、讀取檔案
/** * 測試讀取檔案 * @throws IOException */ @Test public void testSave() throws IOException { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); FSDataInputStream fis = fs.open(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt")); ByteArrayOutputStream baos = new ByteArrayOutputStream(); IOUtils.copyBytes(fis,baos,1024); fis.close(); System.out.println(new String(baos.toByteArray())); }
2、寫入檔案
/** * 測試寫入檔案 */ @Test public void testWrite () throws IOException { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); FSDataOutputStream fos = fs.create(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt")); fos.write("hello world".getBytes()); fos.close(); }
3、定製副本數和blocksize
/** * 定製副本數和blocksize */ @Test public void testWrite2 () throws IOException { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); FSDataOutputStream fos = fs.create(new Path("hdfs://s150:8020/usr/xiaoqiu/hadoop/mydir1/hello1.txt"), true, 1024, (short)2, 1024); fos.write("how are you ".getBytes()); fos.close(); }
修改最小區域塊大小
[[email protected] /soft/hadoop/etc/hadoop]$ cat hdfs-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.namenode.fs-limits.min-block-size</name>
<value>1024</value>
</property>
</configuration>
修改了配置檔案記得重啟Hadoop
相關推薦
maven專案測試HDFS讀取檔案
1、讀取檔案 /** * 測試讀取檔案 * @throws IOException */ @Test public void testSave()
maven專案結構中properties檔案的讀取
<span style="font-family: Arial, Helvetica, sans-serif;">public class ABC{</span> private static String proFileName = "/confi
maven專案不載入頁面檔案的
1.maven 的pom.xml可能有類似以下的程式碼 (1)不過濾java包裡的xml和properties檔案(預設只編譯.java檔案,其他都被過濾掉),不是導致maven專案不編譯頁面檔案的原因 <resource> <directory&
建立的maven專案,pom.xml檔案報錯解決方法
eclipse建立的maven專案,pom.xml檔案報錯解決方法 【錯誤原因一:】maven 編譯級別過低 【解決辦法:】 使用 maven-compiler-plugin 將 maven 編譯級別改為 jdk1.6 以上: <!-- java編譯外掛
在eclipse上寫maven專案時pom.xml檔案第一行一直報錯,解決辦法
在pom.xml裡面加上一下即可,個人意見 <properties> <maven-jar-plugin.ver
idea解決建立maven專案時web.xml檔案版本過低的情況
前言 之前介紹瞭如何在idea中部署maven的web專案,但是建立maven專案之後,發現一個小瑕疵: <!DOCTYPE web-app PUBLIC "-//Sun Microsystems, Inc.//DTD Web Application 2.3//EN"
maven專案的pom.xml檔案出現紅色錯誤提示:ArtifactTransferException: Failure to transfer
maven專案的pom.xml檔案出現紅色錯誤提示,滑鼠放上去提示: ArtifactTransferException: Failure to transfer org.deeplearning4j:deeplearning4j-ui-model:jar:0.7.1 f
如何把一個基於Maven專案所有的jar檔案快速列出到Excel?
我們在做專案的時候,有的時候根據公司法務部門的要求,我們需要把專案中用到的所有的jar檔案,整出一個Jar檔案的列表,如果專案比較小的話,還好說,如果專案比較大的話,就比較麻煩了,因為jar包之間是有直接和間接依賴的。比如在Maven的配置檔案裡顯式申明瞭A的依賴,但是A的依賴又可能依賴
HDFS讀取檔案詳解
HDFS讀取檔案 客戶端向namenode發出請求下載檔案(呢個路徑下的呢個檔案); namenode經過查詢源資料資訊,哦,發現有請求需要的資訊,然後將目標檔案的元資料返回給client,元資料包扣檔案儲存在呢些DataNode下的,呢些block,都會發給client;
一個簡單的ssm框架maven專案的相關配置檔案
父工程的pom.xml <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:
maven專案匯入出現jar檔案沒有同步釋出到自己專案的lib目錄中
最近maven專案匯入出現配置都正確且run as都可以不報錯,但啟動時報如下錯誤:嚴重: Error configuring application listener of class org.springframework.web.context.ContextLoad
IntelliJ IDEA中的Maven專案下的配置檔案釋出問題
積累,小白也有大神夢 在Idea中,如果建立Maven專案,因為它預設只能將/src/main/resources下的資原始檔釋出到伺服器中,所以我們在/src/main/java中寫的大量配置檔案是無法被髮布的,所以這樣就會出現,配置檔案載入失敗,無
maven專案 修改properties屬性檔案不用重啟
1.專案中經常變化的值, 比如 圖片伺服器路徑啊‘第三方的路徑’,都需要放到 屬性檔案裡, 怎樣才能不用重啟 修改 屬性檔案呢, public static String getPropertiesValue(String name, String key) {
使用Idea建立maven專案無法載入pom檔案,一直出現Indexing paused during Power Save mode
今天建立一個maven專案,無法載入pom檔案,一直以為是maven的問題,發現自己倉庫地址和配置檔案地址沒有設定錯。於是看了下邊中間顯示Indexing paused during Power Save mode。一看,以為是電腦問題,省電模式,可是自己電腦沒有設定省電模式
新建maven專案時pom.xml檔案第一行報org.apache.maven.plugin.war.WarMojo的解決方法
新建maven專案的時候pom.xml檔案第一行報錯,如下: 出現這個錯誤的原因是 <plugin><groupId>org.apache.maven.plugins<
IDEA解決Maven專案編譯後classes檔案中沒有.xml問題
org.apache.ibatis.binding.BindingException: Invalid bound statement (not found): Mapper介面中的某個方法這個原因是因為maven 編譯時並沒有把 .xml 檔案放到 target資料夾下的c
Maven專案中的各個檔案的作用
maven預設的檔案存放結構如下: /專案目錄 pom.xml 用於maven的配置檔案 /src 原始碼目錄 /src/main 工程原始碼目錄
java 從hadoop hdfs讀取檔案 進行groupby並顯示為條形圖
題意:從檔案、網路或者資料庫中讀取資料(格式自定、資料自定),顯示統計結果(包括圖形兩種以上),使用者介面自定 1 讀取資料 1.1 準備資料 此資料為TPCH基準測試集中lineitem.tdl檔案中前25行 示例:第一行如下 1|1
Maven專案setting.xml配置檔案詳解
Maven專案的setting.xml檔案,主要分為兩個: 使用者的安裝: ${user.home}/.m2/settings.xml 當前使用者範圍的配置檔案; Maven安裝: maven.conf/settings.xml全局範圍配置文件
Cobertura 統計多模組maven專案測試覆蓋率
Cobertura 統計單元測試覆蓋率的機制:執行類,並在一個log檔案中記錄哪一行被執行,然後將原始碼和log檔案進行比對。 1. 簡單的情況:單模組maven專案 專案結構 原始碼 src/main/java/se/sigma/calculator/Calcula