1. 程式人生 > >Flume安裝配置簡單版

Flume安裝配置簡單版

本文環境如下: 
作業系統:CentOS 7.2.1511 64位 
Flume版本:1.6.0

1. 系統需求

Flume需要Java 1.6及以上(推薦1.7),對Agent監控目錄的讀寫許可權。

2. 下載軟體包

到Flume官網上http://flume.apache.org/download.html下載軟體包,例如:

wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"
tar -xzvf apache-flume-1.6.0-bin.tar.gz
mv flume-1.6.0 /opt
  • 1
  • 2
  • 3

3. 簡單示例

3.1 修改配置檔案

vi /opt/flume-1.6.0/conf/flume.conf
  • 1

輸入以下內容

# 指定Agent的元件名稱
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# 指定Flume source(要監聽的路徑)
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/path

# 指定Flume sink
a1.sinks.k1.type = logger

# 指定Flume channel
a1.channels.c1.type = memory
a1.channels.c1.capacity
= 1000 a1.channels.c1.transactionCapacity = 100 # 繫結source和sink到channel上 a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20

3.2 啟動flume agent

cd /opt/flume-1.6.0
bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console
  • 1
  • 2
引數作用舉例
–conf 或 -c指定配置資料夾,包含flume-env.sh和log4j的配置檔案–conf conf
–conf-file 或 -f配置檔案地址–conf-file conf/flume.conf
–name 或 -nagent名稱–name a1
-zzookeeper連線字串-z zkhost:2181,zkhost1:2181
-pzookeeper中的儲存路徑字首-p /flume

3.3 寫入日誌內容

vi 1.log
  • 1

寫入Hello Flume.作為測試內容。然後拷貝到flume監聽路徑。

cp 1.log  /root/path/
  • 1

接著就可以在前一個終端看到剛剛採集的內容了,如下:

2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D             Hello Flume. }
  • 1

至此flume已經能夠正常執行。