1. 程式人生 > >用Python寫一個 Hadoop MapReduce 程式

用Python寫一個 Hadoop MapReduce 程式

01 [email protected]:/usr/local/hadoopbin/hadoop jar contrib/streaming/hadoop-*streaming*.jar -mapper /home/hduser/mapper.py -reducer /home/hduser/reducer.py -input /user/hduser/gutenberg/* -output /user/hduser/gutenberg-output
02  additionalConfSpec_:null
03  null=@@@userJobConfProps_.get(stream.shipped.hadoopstreaming
04 
 packageJobJar: [/app/hadoop/tmp/hadoop-unjar54543/]
05  [] /tmp/streamjob54544.jar tmpDir=null
06  [...] INFO mapred.FileInputFormat: Total input paths to process : 7
07  [...] INFO streaming.StreamJob: getLocalDirs(): [/app/hadoop/tmp/mapred/local]
08  [...] INFO streaming.StreamJob: Running job: job_200803031615_0021
09  [
...]
10  [...] INFO streaming.StreamJob:  map 0%  reduce 0%
11  [...] INFO streaming.StreamJob:  map 43%  reduce 0%
12  [...] INFO streaming.StreamJob:  map 86%  reduce 0%
13  [...] INFO streaming.StreamJob:  map 100%  reduce 0%
14  [...] INFO streaming.StreamJob:  map 100%  reduce 33%
15  [...] INFO streaming.StreamJob:  map 100%  reduce 70%
16 
 [...] INFO streaming.StreamJob:  map 100%  reduce 77%
17  [...] INFO streaming.StreamJob:  map 100%  reduce 100%
18  [...] INFO streaming.StreamJob: Job complete: job_200803031615_0021
19  [...] INFO streaming.StreamJob: Output: /user/hduser/gutenberg-output
20 [email protected]:/usr/local/hadoop$

相關推薦

Python一個 Hadoop MapReduce 程式

01 [email protected]:/usr/local/hadoop$ bin/hadoop jar contrib/streaming/hadoop-*streaming*.jar -mapper /home/hduser/mapper.py -reducer /home/hduser

python一個溫度轉換程式

不同國家的溫度標準不一樣,常見的有攝氏度、華氏度,下面程式展示了用python寫的簡單的(攝氏-華氏)溫度轉換器; Python Version:3.4.3 執行結果: 相關知識點: eval(data):將data轉換成數字 round(data,num

python一個抽獎程式

第一次使用python寫程式,確實比C/C++之類方便許多。既然這個抽獎的資料不大,對效率要求並不高,所以採用python寫,更加簡潔、清晰、方便。 1.用到的模組 生成隨機數的模組random 用來讀取excel表格的模組xlrd 2.思路:首先開啟e

python一個程式,解決買水果的問題?

問題: 商店總共有三種水果,香蕉/蘋果/葡萄,單價分別為3.5/5.0/3.0元/500克。 寫一個小程式實現:          1、輸出一個選單:列印每種水果的價格:          2、尋問客戶欲購買水果?          3、客戶想購買的克數?    

python一個簡單的使用者登陸程式(要求成函式)

效能要求: 原始碼: dict1={} def log(): global dict1 print("|---新建使用者:N/n---|") print("|---賬戶登入:

python一個搶票小程式(無驗證碼)

準備工作:利用到的庫: requests、time、re、threading、wx利用chrome抓包模擬校園網登入的python指令碼:開啟瀏覽器的開發者工具,在network中找到 所有場館頁面資訊的url 和 傳送訂票請求的url。我在這次用到的有:url、reques

Python一個可以記日記的小程式

功能: 1.可記日記,可追加日記 2.可看到距離2018年還有多少天 寫完以後直接存入預設資料夾 IDE:Pycharm 系統:macOS Python版本:3.5.2 以下為程式原文:

PYTHON一個應用程式併發布exe

1.安裝PYTHON3.4.3 2.安裝cx_freeze 3.安裝cx_freeze補丁  C:\Python34\Scripts>pip.exe install f:\F_pan\cx_Freeze-4.3.4-cp34-none-win_amd64.whl

Python一個批量生成賬號的函數(戶控制數據長度、數據條數)

shuf open 小寫 長度 數據 ase 函數 用戶控制 app # 1、寫一個函數,批量生成一些註冊使用的賬號:[email protected]/* */,長度由用戶輸入,產生多少條也由用戶輸入,用戶名不能重復,用戶名必須由大寫字母、小寫字母、數字組成

Python一個小遊戲

python 小腳本 剛學Python時間不長,但也知道了一點,看別人的參考寫了一個猜數字小遊戲,也算是禹學於樂吧。#!/usr/bin/env python #coding=utf-8

python一個簡單的excel表格獲取當時的linux系統信息

psutil 生成 之前 建立 set ces ext 流量 關閉 最近在學習excel表格的制作,順便結合之前學習的內容,利用python的兩個模板,分別是獲取系統信息的psutil,和生成excel表格的xlsxwriter。利用這兩個模板將生成一個簡單的excel表格

python一個九九乘法表-2月19日/2018

九九乘法 while -c pos ont 九九 pytho 九九乘法表 font first = 1 while first<=9:   sec=1   while sec<=first:     print(str(sec),"x",str(first),

python一個restful API

python restful # -*- coding: utf-8 -*- # 作者: 煮酒品茶 """ package.module ~~~~~~~~~~~~~~ python實現的圖書的一個restful api. 參考restful設計指南 URL:

python一個微信聊天機器人

python wechat 聊天機器人 # -*- coding: utf-8 -*- """ package.module ~~~~~~~~~~~~~~ 一個微信機器人程序 微信客戶端itchat: http://itchat.readthed

python一個微信跳一跳外掛,瞬間稱霸朋友圈

python 微信 跳一跳 爬蟲12月28日,微信宣布,小程序增加了新的類目:小遊戲,同時上線小遊戲 你們跳的再好,在毫無心理波動的程序面前都是渣渣。 剛剛會python的小白想玩怎麽辦? 下有詳細的教程,哈哈,包教會不收任何的費用。 感受一下被支配的恐懼吧: 使用工具1.python3.6 2.adb 3

Python 一個TCP 伺服器和TCP代理

TCP伺服器 import socket import threading bind_ip="0.0.0.0" bind_port=9999 server=socket.socket(socket.AF_INET,socket.SOCK_STREAM) server.bind((bind_i

Python一個語音播放軟體

單位經常使用廣播進行臨時事項的通知(將文字轉換為語音然後通過功放廣播),但是市面上多數語音播放軟體都是收費的,要麼發音失真,要麼不夠穩定——經常出現莫名其妙的故障,容易給工作帶來被動。學Python這麼久不如動手寫一款自己的語音廣播軟體,即使發生故障也可以自行排除。 介面設計 在開始動

Tkinter小專案:Python一個地址收藏管理工具,迅速提高你的工作效率

如何管理雜亂的電腦桌面和一大堆的瀏覽器收藏網址?我用python寫了一個工具,迅速提高工作效率。 工作了一段時間發現,電腦桌面上已經滿屏的常用軟體、常用專案資料夾的快捷方式,一大堆的常用文件,瀏覽器上收藏的工作網址更是有100+,通常想開啟一個文件、網址要尋找半

究極大福利!Python一個抖音漂亮小姐姐發掘器!原始碼送給你!

最近沉迷於抖音無法自拔,常常連續花好幾個小時在抖音漂亮小姐姐身上。手動尋找費時費力,為了高效、直接地找到漂亮小姐姐,我用 Python + ADB 做了一個 Python 抖音機器人 Douyin-Bot。自動翻頁+顏值識別,瞬間覺得關注列表不夠用了!原理開啟《抖音短視訊》APP,進入主介面獲取手機截圖,並對

python一個簡單的詞法分析器

編譯原理老師要求寫一個java的詞法分析器,想了想決定用python寫一個。 目標 能識別出變數,數字,運算子,界符和關鍵字,用excel表打印出來。 有了目標,想想要怎麼實現詞法分析器。 1.先進行預處理,把註釋,多餘的空格,空行去掉。 2.一行一行掃