1. 程式人生 > >logstash配置讀取文字檔案使用kafka傳送到kafka伺服器

logstash配置讀取文字檔案使用kafka傳送到kafka伺服器

輸入命令測試:

bin/logstash -f logstash.conf 

示例1:

logstash配置檔案,從終端讀取內容,然後從終端上顯示出來

input {

    stdin {
        add_field => {"key" => "value"}
        codec => "plain"
        tags => ["add"]
        type => "std"
    }
}
output
{stdout
{codec=>rubydebug}

}

示例2:從資料夾讀取檔案,然後再終端上顯示

input {
 file {
        path => ["/home/gaoweiapp/*.txt"]
        type => "system"
        start_position => "beginning"
    }
}
output
{
stdout
{codec=>rubydebug}
}

示例3:從資料夾讀取檔案,傳送至kafka叢集

input {
 file {
        path => ["/home/gaoweiapp/*.txt"]
        type => "system"
        start_position => "beginning"
    }


}
output
{


 kafka {
        codec => plain {
            format => "%{message}"
        }
        bootstrap_servers => "127.0.0.1:9092,127.0.0.23:9092"
        topic_id => "test"
    }
}

相關推薦

logstash配置讀取文字檔案使用kafka傳送kafka伺服器

輸入命令測試: bin/logstash -f logstash.conf  示例1: logstash配置檔案,從終端讀取內容,然後從終端上顯示出來 input {     stdin {         add_field => {"key" => "va

什麼是BOM?php讀取文字檔案 會把bom讀入 陣列

###File()函式讀取utf8 的文字檔案 會把bom讀入 陣列。導致mysql搜尋 不到內容 可以對讀取後的字元 $result = trim($result, "\xEF\xBB\xBF"); 1.什麼是BOM? BOM是用來判斷文字檔案是哪一種Unic

C 讀取文字檔案和C 寫文字檔案

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!http://blog.csdn.net/jiangjunshow 也歡迎大家轉載本篇文章。分享知識,造福人民,實現我們中華民族偉大復興!        

python讀取文字檔案的三種方法

參考連結 python讀取文字檔案的內容,有三種方法。 read()、readline()、readlines() read() read()是最簡單的一種方法,一次性讀取檔案的所有內容放在一個大字串中,即記憶體中。 file=open('test.txt') try:

C++寫入/讀取文字檔案

C++寫入或讀取文字檔案時需包含標頭檔案fstream,如同iostream一般,是對資料的流式傳輸。 fstream:用於檔案的流式傳輸 iostream:輸入輸出的流式傳輸 #include<fstream> 大部分情況還要用到一個頭檔案stdlib.

java基礎BufferedReader類(提高字元流讀取文字檔案的效率)IO流(位元組流/字元流)

String nstr=sb.toString().replace("{name}", “ok”).replace("{sex}", “男”).replace("{hobby}", “陶笛”);boolean exists( ) 判斷檔案或目錄是否存在 bool

java檔案操作 (1)——判別指定檔案是否存在,讀取檔案修改時間和大小,讀取文字檔案內容,向文字檔案中寫入指定內容

任務要求: 完成一個java application應用程式,判別指定路徑下指定檔名的檔案是否存在。 如果指定檔案存在,讀取並分別顯示其修改時間和檔案大小等屬性。 以文字方式開啟某一指定路徑指定檔名的文字檔案,讀取其內容並顯示。 以文字方式向某

c實現功能(7)寫入和讀取文字檔案

#include <stdio.h> #include <string.h> int main() { //向一個檔案中寫入內容 char s[1024] = {0}; //開啟一個檔案 FILE *p = fopen(

Spark讀取文字檔案並轉換為DataFrame

本文首發於我的個人部落格QIMING.INFO,轉載請帶上鍊接及署名。 Spark ML裡的核心API已經由基於RDD換成了基於DataFrame,為了使讀取到的值成為DataFrame型別,我們可以直接使用讀取CSV的方式來讀取文字檔案,可問題來了,當文字檔案中每一行的各

IO應用——讀取文字檔案並統計單詞個數

讀取一共文字檔案,統計出其中每一個單詞出現的次數,並把結果儲存在另外的一個檔案中 此處我的文字內容是:i love you,i love you 我就沒有儲存到另一個檔案了,要儲存直接用輸出流就行了 public static void main(String[] args) thr

讀取文字檔案中Student.txt中內容(編號,姓名,成績)存放到學生物件中,並新增到集合物件,然後將分數低於等於80分的學生輸出到另外一個檔案

讀取文字檔案中Student.txt中內容(編號,姓名,成績)存放到學生物件中,並新增到集合,然後將分數低於等於80分的學生輸出到另外一個檔案中 大概說一下,這裡面加上main函式一共有addlist()、outgrade()、creatstu()4個方法。

BufferedInputStream讀取文字檔案內容

              // 指定要讀取檔案的緩衝輸入位元組流                   B

java快速讀取文字檔案最後一行資料內容,文字檔案非常大

http://www.iteye.com/problems/42748 public static void main(String[] args) throws Exception { File file = new File("E:/a.txt"); // 100M

spring boot 多環境配置讀取屬性檔案

相信很多人選擇Spring Boot主要是考慮到它既能兼顧Spring的強大功能,還能實現快速開發的便捷。我們在Spring Boot使用過程中,最直觀的感受就是沒有了原來自己整合Spring應用時繁多的XML配置內容,替代它的是在pom.xml中引入模組化的Starte

Flowable讀取文字檔案

public void readText() { final TextView textView = (TextView) findViewById(R.id.textView); final File directory = Env

讀取文字檔案並顯示在螢幕上

#include<stdio.h> #include<string.h> void main() { FILE *fp; //建立一個檔案指標*fp char ch; f

Java讀取文字檔案中文亂碼問題

最近遇到一個問題,Java讀取文字檔案(例如csv檔案、txt檔案等),遇到中文就變成亂碼。讀取程式碼如下: List<String> lines=new ArrayList<String>(); BufferedReader br = new

讀取文字檔案:numpy.loadtxt()

fname:檔名。 dtype:返回陣列的型別,預設為float型。 comments:定義註釋開始的字串,預設為"#"。 delimiter:數值之間的分隔符,預設為空格。 coverters:將行號字串轉換為所需值的字典。例如行號轉換為日期converters = {0 : data}。預設無。 ski

Python 按行讀取文字檔案 快取 和 非快取實現

需求 最近專案中有個讀取檔案的需求,資料量還挺大,10萬行的數量級。 java 使用快取讀取檔案是,會相應的建立一個內部緩衝區陣列在java虛擬機器記憶體中,因此每次處理的就是這一整塊記憶體。 簡單的想:就是如果不用快取,每次都要硬碟–虛擬機器快取–讀取;

讀取文字檔案內容(Java FileChannel)

import java.io.IOException; import java.io.RandomAccessFile; import java.nio.ByteBuffer; import java.nio.channels.FileChannel; /** * 讀取文字檔案內容(Ja