Logstash學習10_Logstash從Kafka或檔案接收資料的配置demo介紹
下面介紹兩個Logstash的配置Demo:
Demo1:
input { kafka { zk_connect => "10.10.16.2:2181,10.10.16.3:2181,10.10.16.4:2181" group_id => "test-consumer-group" topic_id => "MyPattern" reset_beginning => false # boolean (optional), default: false consumer_threads => 5 # number (optional), default: 1 decorate_events => true # boolean (optional), default: false } } filter{ mutate{ split => ["message",","] } #第一個資料的內容中ORA-xxxxx這種格式,則這條內容是ora錯誤。新增二個欄位 mutate{ add_field => { "SRC_ADDRESS" => "%{[message][0]}" "DEST_ADDRESS" => "%{[message][1]}" "SRC_PORT" => "%{[message][2]}" "DEST_PORT" => "%{[message][3]}" "TRANS_PROTOCOL" => "%{[message][4]}" "PACKETS" => "%{[message][5]}" "BYTES" => "%{[message][6]}" "FLAGS" => "%{[message][7]}" "START_TIME" => "%{[message][8]}" } } }
Demo2:
input { file { path => ["/home/test.csv"] #type => "system" #start_position => "beginning" } } filter{ mutate{ gsub => [ "message", "\r", "" ] } mutate { split => ["message",","] } mutate{ add_field => { "id" => "%{[message][0]}" "time" => "%{[message][1]}" "userId" => "%{[message][2]}" "pc" => "%{[message][3]}" "stat" => "%{[message][4]}" } } } output { stdout { codec => rubydebug } }
第一個是從Kafka接收資料,第二個是從檔案接收資料,所以input的配置不同。
相關推薦
Logstash學習10_Logstash從Kafka或檔案接收資料的配置demo介紹
下面介紹兩個Logstash的配置Demo: Demo1: input { kafka { zk_connect => "10.10.16.2:2181,10.10.16.3:2181,10.10.16.4:2181" group_id => "test
網路學習 Linux 從伺服器下載檔案的命令總結
1 yum 或者 apt-get 這兩個命令是從自己的下載中心裡查詢對應的安裝包 : 所有yum 或者 apt-get 無需指定 http 地址,只需要 指定安裝包的名字就行了。 區別,對應不同的Linux系統 yum 對應 centos apt-ge
從kafka往hbase寫資料時無法寫入的問題(region server中出現與master的預設hostname相同的regionserver節點)
在通過flume將生產的日誌傳遞到kafka再通過kafka向hbase寫入資料的時候出現問題 在執行到flushCommits() 這一步
Linux 學習之建立、刪除檔案和資料夾命令
今天學習了幾個命令,是建立、刪除檔案和資料夾的,在linux裡,資料夾是目錄,下面說下我學習的命令。 建立資料夾【mkdir】 一、mkdir命令使用許可權 所有使用者都可以在終端使用 mkdir 命令在擁有許可權的資料夾建立資料夾或目錄。 二
mac刪除帶有多級目錄或檔案的資料夾命令
一般我們刪除一個資料夾的命令是:rmdir [file path] 如:rmdir ../myfile 但是如果資料夾中含有別的資料夾或著檔案之類的話使用上面的命令是會失敗的。 那麼我們應該如何
el學習之從四大域中取出資料以及執行表示式
1.EL 表示式概述EL(Express Lanuage)表示式可以嵌入在jsp頁面內部,減少jsp指令碼的編寫,EL 出現的目的是要替代jsp頁面中指令碼的編寫。2.EL從域中取出資料EL最主要的作用是獲得四大域中的資料,格式${EL表示式}EL獲得pageContext
從Kafka的一次broker假死介紹Kafka架構和DefaultPartitioner
最近公司的kafka叢集出現了節點已經失效但是節點程序和埠都還在的情況,目前我們的系統監控只是做到了程序監控,即為整個叢集的每臺機群建立程序快照,如果程序(如NameNode、kakfa broker)丟失,則報警並立刻自動重啟程序。但是這次的kafka事故程序
Kafka學習總結(三)——Kafka的message儲存資料結構
引言 Kafka中的Message是以topic為基本單位組織的,不同的topic之間是相互獨立的。每個topic又可以分成幾個不同的partition(每個topic有幾個partition是在建立topic時指定的),每個partition儲存一部分Message。
【MyBatis學習05】SqlMapConfig.xml檔案中的配置總結
經過上兩篇博文的總結,對mybatis中的dao開發方法和流程基本掌握了,這一節主要來總結一下mybatis中的全域性配置檔案SqlMapConfig.xml在開發中的一些常用配置,首先看一下該全域性配置檔案中都有哪些可以配置的東西: 配置內容 作用 <
SQL從xls或xlsx匯入資料
SQL匯入xls資料格式: SELECT * INTO test FROM OPENROWSET('MICROSOFT.JET.OLEDB.4.0','Excel 5.0;HDR=YES;DATABASE=d:/測試.xls',sheet1$) SQL匯入xlsx資料格式:
Java7中NIO學習之建立新的檔案和資料夾
文章來源: http://evil850209.iteye.com/blog/1924446 public static void main(String[] args) { try {
從Kafka topic中獲取資料並在Storm中進行分析
從Kafka topic中獲取資料 String zks = "x.x.x.x:2181,x.x.x.x:2181,x.x.x.x:2181"; String topic = "t
Confluence 6 從外部目錄中同步資料配置同步間隔
你可以在目錄配置介面中設定 同步間隔(Synchronisation Interval)。同步間隔時間指的是 2 個從目錄伺服器上查詢請求的間隔時間。 為你的系統設定同步間隔時間基於下面的一些考慮: 你可以容許I系統資料不同步的長度。 你目錄伺服器和你本地應用的中同步的資料量。 你使用者的數量。
android專案裡面檔案,資料夾作用介紹res
在Android專案資料夾裡面,主要的資原始檔是放在res資料夾裡面的 1:assets資料夾是存放不進行編譯加工的原生檔案,即該資料夾裡面的檔案不會像xml,java檔案被預編譯,可以存放一些圖片,html,js, css等檔案。 2:res資料夾裡面的多個資料夾的各自介紹 res/anim/ XML
Android RxJava操作符的學習---組合合併操作符---從磁碟或記憶體快取中獲取快取資料
1. 需求場景 2. 功能說明 對於從磁碟 / 記憶體快取中 獲取快取資料 的功能邏輯如下: 3. 具體實現 詳細請看程式碼註釋 // 該2變數用於模擬記憶體快取 & 磁碟快取中的資料 String me
【Python學習記錄——從入門到放棄】九、檔案與異常
本文使用的書籍是《Python程式設計:從入門到實踐》 本文使用的是Python3.6 一、從檔案中讀取資料 這一節主要講的是如何讀取檔案,無非就是幾個方法而已。 讀取整個檔案 首先建立一個檔案 3.1415926335 8979323846 2643383279
Kafka學習筆記(7)----Kafka使用Cosumer接收訊息
1. 什麼是KafkaConsumer? 應用程式使用KafkaConsul'le 「向Kafka 訂閱主題,並從訂閱的主題上接收訊息。Kafka的訊息讀取不同於從其他訊息系統讀取資料,它涉及了一些獨特的概念和想法。 1.1 消費者和消費者群組 單個的消費者就跟前面的訊息系統的消費者一樣,建
學習筆記:從0開始學習大資料-16. kafka安裝及使用
kafka是訊息處理服務的開源軟體,高效高可用。可以作為大資料收集的工具或資料的管道。 1. 下載 http://kafka.apache.org/downloads 根據scala版本,我下載的是Scala 2.12 - kafka_2.12-2.1.0.tgz (as
學習筆記:從0開始學習大資料-5.hadoop hdfs檔案讀寫api操作
學習測試,網上下的程式碼,測試通過,助於理解讀寫程式流程 package com.linbin.testmaven; import java.net.URI; import java.text.SimpleDateFormat; import java.util.Date; import or
圖片或檔案上傳到伺服器或從伺服器上讀取(圖片可根據路徑src回顯展示,從伺服器上讀出來)
不需要配置虛擬路徑,存的時候資料庫裡只存了圖片的名稱(隨機重新命名的形式),存在指定伺服器上,取的時候也是根據圖片名稱從伺服器上找到,並用OutputStream 讀出來 前臺頁面(用的bootstrap): html程式碼(可回顯,回顯的時候也是去後臺根據路徑查詢到圖片):