CentOS安装filebeat收集日志到kafka

系统 Linux Kafka
filebeat是日志数据采集器,可代替logstash收集日志,部署起来比较方便。一般日志量比较大,会先收集到kafka然后再进行消费。

简介

filebeat是日志数据采集器,可代替logstash收集日志,部署起来比较方便。

一般日志量比较大,会先收集到kafka然后再进行消费。

安装

  1. yum -y install https://mirrors.tuna.tsinghua.edu.cn/elasticstack/7.x/yum/7.14.0/filebeat-7.14.0-x86_64.rpm 
CentOS安装filebeat收集日志到kafka

配置filebeat

  1. vim /etc/filebeat/filebeat.yml 
  1. filebeat.inputs: 
  2. - type: log 
  3.   paths: 
  4.     - /var/log/*.log 
  5.     - /var/log/messages 
  6.   fields: 
  7.     type: "systemlog" 
  8.     log_topic: "systemlog" 
  9.   fields_under_root: true 
  10.   exclude_lines: ["^DBG"
  11.   exclude_files: [".gz$"
  12. name: 192.168.122.100 
  13. output.kafka: 
  14.   enabled: true 
  15.   hosts: ["192.168.122.200:9092"
  16.   topic: "%{[log_topic]}" 
  17.   partition.round_robin: 
  18.     reachable_only: true 
  19.   worker: 2 
  20.   required_acks: 1 
  21.   compression: gzip 
  22.   max_message_bytes: 10000000 

服务管理

  1. systemctl enable filebeat 
  2. systemctl start filebeat 

总结

filebeat是Go写的,部署起来很方便,没什么依赖,批量部署简单。

 

责任编辑:姜华 来源: 今日头条
相关推荐

2022-04-28 23:28:07

FilebeatRedis日志

2023-01-14 15:38:07

日志管理工具

2021-04-27 09:45:33

Nginx日志运维

2019-04-25 08:28:58

工具LogstashFilebeat

2023-11-06 01:17:25

主机容器选项

2022-05-11 10:58:11

MetricKitiOS13系统崩溃诊断

2022-06-12 21:28:26

Fluentd开源

2022-08-12 11:46:50

Kubernetes云原生开源

2015-08-20 10:23:23

前端代码日志收集

2022-12-29 08:00:26

Loki网络设备

2023-08-31 07:46:54

KubernetesLoki

2020-12-16 15:56:05

Kubernetes日志工具

2023-09-27 00:12:23

2021-03-08 09:15:46

日志Filebeat运维

2021-07-20 08:32:16

Kubernetes日志平台

2021-07-19 09:18:07

KubernetesELK Stackk8s

2020-06-11 16:35:02

filebeatlogstash前端

2015-10-27 15:54:29

message日志分析Linux

2022-06-20 11:15:08

日志容器Kubernetes

2024-03-11 00:01:00

PromtailLoki服务器
点赞
收藏

51CTO技术栈公众号