기본 콘텐츠로 건너뛰기

[Logstash] Logstash, Logstash-plugin 설치

Logstash

Logstash는 기본적으로 다양한 소스를 효율적으로 수집을 할 수 있게 도와주는 오픈소스입니다. 입력, 필터, 출력 3가지 단계가 있으며 각 단계별로 다양한 플러그인이 있어 다양한 서비스 사이에서 사용될 수 있죠.

Logstash 다운로드

최신 버전 다운로드 : https://www.elastic.co/kr/downloads/logstash
지난 버전 다운로드 (Past Releases) : https://www.elastic.co/kr/downloads/past-releases
링크로 이동하면 logstash를 받을 수 있으며 저는 logstash-5.5.0 버전을 사용하여 글을 작성중입니다.
아래 설치 및 실행관련 부분은 리눅스 환경을 기준으로 적었으며, 윈도우 환경에서도 동일하게 진행하면 문제 없이 사용가능합니다.

Getting Started with Logstash

logstash 설치는 정말 간답합니다. 위에서 다운로드 받은 tar파일을 원하는 서버에 다운받아 압축을 풀면 모든 준비는 끝났습니다.
  • 다운로드 및 설치 요약
# wegt 'https://artifacts.elastic.co/downloads/logstash/logstash-5.5.0.tar.gz'

# tar -xvf ./logstash-5.5.0.tar.gz
# cd ./logstash-5.5.0
# ls -al
합계 228
drwxr-xr-x. 12 root root   4096 2017-07-12 09:30 .
dr-xr-x---. 35 root root   4096 2017-08-17 09:50 ..
-rw-r--r--.  1 root root 111573 2017-07-01 08:51 CHANGELOG.md
-rw-r--r--.  1 root root   2249 2017-07-01 08:51 CONTRIBUTORS
-rw-r--r--.  1 root root   3874 2017-07-12 11:14 Gemfile
-rw-r--r--.  1 root root  21427 2017-07-01 08:52 Gemfile.jruby-1.9.lock
-rw-r--r--.  1 root root    589 2017-07-01 08:51 LICENSE
-rw-r--r--.  1 root root  29345 2017-07-01 08:55 NOTICE.TXT
drwxr-xr-x.  2 root root   4096 2017-08-11 16:31 bin
drwxr-xr-x.  2 root root   4096 2017-07-11 19:01 config
drwxr-xr-x.  5 root root   4096 2017-07-12 09:30 data
drwxr-xr-x.  5 root root   4096 2017-07-11 19:01 lib
drwxr-xr-x.  2 root root   4096 2017-08-16 11:13 logs
drwxr-xr-x.  4 root root   4096 2017-07-12 11:14 logstash-core
drwxr-xr-x.  3 root root   4096 2017-07-11 19:01 logstash-core-plugin-api
drwxr-xr-x.  3 root root   4096 2017-07-11 19:01 modules
drwxr-xr-x.  3 root root   4096 2017-07-11 19:01 tools
drwxr-xr-x.  4 root root   4096 2017-07-11 19:01 vendor
이걸로 logstash 설치는 과정은 끝이나지만, logstash를 제대로 사용하기 위해서는 플러그인 필요합니다.

Logstash install plugin

이글을 시작하면서 언급했던것 같이 logstash의 기능중 가장 매력있는것은 바로 각 기능별로 지원하는 다양한 플러그인 입니다.
플러그인 목록
설치된 플러그인 확인
bin/logstash-plugin list 
bin/logstash-plugin list --verbose 
bin/logstash-plugin list '*namefragment*' 
bin/logstash-plugin list --group output 
플러그인 설치
bin/logstash-plugin install logstash-input-file
bin/logstash-plugin install /path/to/logstash-output-kafka-1.0.0.gem
플러그인 업데이트
bin/logstash-plugin update 
bin/logstash-plugin update logstash-output-kafka 
플러그인에 대한 자세한 내용은 Elastic logstash document 에서 확인 가능 합니다.
다음 글에서는 다운 받은 플러그인을 사용하기 위한 설정 및 logstash 실행관련 내용을 정리하도록 하겠습니다.

참고 자료

Elastic logstash document

댓글

이 블로그의 인기 게시물

[Github] Windows 환경에서 Git 자격 증명 변경 (자격 증명 변경)

오늘 Git 계정을 새로 생성하여 Git config 사용자 정보를 변경후 푸쉬하는 도중 에러가 발생하여 상당 시간 삽질한게 있어 내용 기록합니다. 새로운 계정에서 repository 생성 후 VS Code를 사용하여 git push를 하려고하니 사용자 때문에 에러가 발생하더군요. 에러 내용은 아래처럼 발생했습니다. # git push remote: Permission to yunseul-light/elasticsearch-study.git denied to Maruhan. fatal: unable to access 'https://github.com/yunseul-light/elasticsearch-study.git/': The requested URL returned error: 403 repository에 해당하는 폴더 .git 파일 내용과 git config 를 이용한 사용자 변경 등 여러가지를 해봤지만 결국 같은 에러가 발생해습니다. 해결 방안 Windows 환경에서 git 사용자 계정을 변경하기 위해서는 위 스크린샷과 같이 제어판에서 편집을 해야합니다.  1. 제어판 - 사용자 계정 - 자격 증명 관리자 2. Windows 자격 증명 3. 일반 자격 증명 4. git 관련 자격 증명 편집 다들 알고있는 내용지만 혹시 저 같은 실수 하시는 분들을 위해 혹시 몰라 남겨둡니다. P.S 위에서 언급했던 git config 관련 내용 추가합니다. git config를 이용한 계정 설정 # git config --global user.name "YunSeul" # git config --global user.email "yunseul.light@gmail.com" config를 이용한 user 설정 후 commit 하는 경우 commit을 시도하는 사용자에 대한 정보가 위에서

[Elasticsearch] Elasticsearch Mapping 설정과 2.x, 5.x버전별 차이점 정리

Mappings Elasticsearch에서 사용하는 Mapping를 대해 알아보도록 하겠습니다. 가장 기본적인 내용이면서 가장 중요한 내용입니다. 초기 Index 생성시 Mappings을 각 Field 용도에 맞춰 설계하는 것이 가장 중요합니다. Index 생성 시 Mappings를 설정하고 데이터를 색인하게 되면 그 이후로 Mppaings를 변경할 수 없습니다. 단, 추가는 언제든지 가능합니다. 그렇다고 절대로 Mapping를 변경할 수 없는 것은 아닙니다. Alias를 이용하여 백그라운드에서 데이터를 재인덱싱하여 변경하는 방법은 있지만, 이 내용은 여기서 다루지 않겠습니다. 자세한 내용이 궁금하신 분들은 아래 링크를 통해 확인하세요. https://www.elastic.co/guide/en/elasticsearch/reference/5.4/mapping.html 기본적으로 Mapping를 설정하지 않아도 Elasticsearch에서 자동으로 설정을 해주지만 조금 더 효율적으로 사용하기 위해 자신이 원하는 Mapping를 설정하는 것이 가장 좋은 방법입니다. 현재 글을 쓰는 시점에는 Elasticsearch 5.5.2 버전이 릴리즈 된 상태입니다. Google에 Mapping 관련 내용 검색 시 대부분의 글들은 2.x 버전 기준의 글이 많아서 5.x 버전 기준으로 작성 후 2.x버전에서 변경된 내용도 함께 정리하겠습니다. Elasticsearch Document - Mapping 의 기본 분류 Field datatypes Meta-Fields Mapping parameters Dynamic Mapping Field datatypes string text and keyword Numeric datatypes long, integer, short, byte, double, float, half_float, scaled_float Date datatype date Boolean datatyp