1. 程式人生 > >基於MapReduce的詞頻統計程式WordCountApp(一)

基於MapReduce的詞頻統計程式WordCountApp(一)

詞頻統計案例分析: wordcount: 統計檔案中每個單詞出現的次數

需求:求wc

  1. 檔案內容小:shell(wc_shell.sh) 在這裡插入圖片描述

使用IDEA+Maven開發wc: 1)開發 2)編譯:mvn clean package -DskipTests 在這裡插入圖片描述 3)上傳到伺服器:scp target/HDFS_Test-1.0-SNAPSHOT.jar [email protected]:~/lib 4)執行 hadoop jar /home/zq/lib/HDFS_Test-1.0-SNAPSHOT.jar MapReduce.WordCountApp hdfs://zq:8020/hello.txt hdfs://zq:8020/output/wc 在這裡插入圖片描述

在這裡插入圖片描述 在這裡插入圖片描述 在這裡插入圖片描述 可見,程式準確無誤 如果有不懂的,可以先閱讀我的前面關於HDFS和YARN的幾篇部落格,再看這篇應該好懂一點 有問題歡迎留言!