1. 程式人生 > >eclipse 配置執行hadoop 2.7 程式例子參考步驟

eclipse 配置執行hadoop 2.7 程式例子參考步驟

hfds-site.xml 增加屬性:關閉叢集的許可權校驗,windows的使用者一般與linux的不一樣,直接將它關閉掉好了。記住不是core-site.xml 重啟叢集
  <property>
    <name>dfs.permissions</name>
    <value>false</value>
  </property>
2、hadoop-eclipse-plugin-2.7.0.jar將外掛放到plugins目錄下

3、
複製linux master已安裝好的hadoop目錄到windows,然後eclipse 配置定位hadoop的目錄
,重啟eclipse

4、開啟配置,hadoop選項,定位hadoop主目錄。然後
開啟mapreduce的view 設定配置屬性:其他額外屬性不要配置,使用者名稱也不用改,此時可以連結上了。


5、
新建MR工程

6、
建立wordcount類(自己複製就行)
     在src下面直接新建log4j.properties

內容如下:主要是列印資訊:(你可以將info改成debug,內容過多,改成info了)
log4j.rootLogger=info,stdout,R
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%5p - %m%n
log4j.appender.R=org.apache.log4j.RollingFileAppender
log4j.appender.R.File=mapreduce_test.log
log4j.appender.R.MaxFileSize=1MB
log4j.appender.R.MaxBackupIndex=1
log4j.appender.R.layout=org.apache.log4j.PatternLayout
log4j.appender.R.layout.ConversionPattern=%p %t %c - %m%n
log4j.logger.com.codefutures=DEBUG

7、錯誤多多啊:
執行報: 1)、java.io.IOException: HADOOP_HOME or hadoop.home.dir are not set. 2)java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

解決方式1)人家提示HADOOP_HOME沒有設定,那就配置windows的環境變數,定位到hadoop目錄
執行報:
第一項不報了,第二項繼續:
2)java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

說不能定位,看來是HADOOP_HOME沒起作用,那就在main裡新增程式碼,否則不報null:
System.setProperty("hadoop.home.dir","E:\\bigdata\\hadoop2"); 執行報: