Flume安裝配置簡單版
阿新 • • 發佈:2018-12-26
本文環境如下:
作業系統:CentOS 7.2.1511 64位
Flume版本:1.6.0
1. 系統需求
Flume需要Java 1.6及以上(推薦1.7),對Agent監控目錄的讀寫許可權。
2. 下載軟體包
到Flume官網上http://flume.apache.org/download.html
下載軟體包,例如:
wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"
tar -xzvf apache-flume-1.6.0-bin.tar.gz
mv flume-1.6.0 /opt
- 1
- 2
- 3
3. 簡單示例
3.1 修改配置檔案
vi /opt/flume-1.6.0/conf/flume.conf
- 1
輸入以下內容
# 指定Agent的元件名稱
a1.sources = r1
a1.sinks = k1
a1.channels = c1
# 指定Flume source(要監聽的路徑)
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/path
# 指定Flume sink
a1.sinks.k1.type = logger
# 指定Flume channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# 繫結source和sink到channel上
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
3.2 啟動flume agent
cd /opt/flume-1.6.0
bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console
- 1
- 2
引數 | 作用 | 舉例 |
---|---|---|
–conf 或 -c | 指定配置資料夾,包含flume-env.sh和log4j的配置檔案 | –conf conf |
–conf-file 或 -f | 配置檔案地址 | –conf-file conf/flume.conf |
–name 或 -n | agent名稱 | –name a1 |
-z | zookeeper連線字串 | -z zkhost:2181,zkhost1:2181 |
-p | zookeeper中的儲存路徑字首 | -p /flume |
3.3 寫入日誌內容
vi 1.log
- 1
寫入Hello Flume.
作為測試內容。然後拷貝到flume監聽路徑。
cp 1.log /root/path/
- 1
接著就可以在前一個終端看到剛剛採集的內容了,如下:
2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D Hello Flume. }
- 1
至此flume已經能夠正常執行。