centos安装Filebeat收集日志到Kafka

作者：linux运维菜 2021-09-07 09:34:04

系统

Linux

Kafka filebeat是日志数据采集器，可代替logstash收集日志，部署起来比较方便。一般日志量比较大，会先收集到kafka然后再进行消费。

成都创新互联专注于通渭企业网站建设,成都响应式网站建设公司,成都做商城网站。通渭网站建设公司,为通渭等地区提供建站服务。全流程按需求定制制作，专业设计，全程项目跟踪，成都创新互联专业和态度为您提供的服务

简介

filebeat是日志数据采集器，可代替logstash收集日志，部署起来比较方便。

一般日志量比较大，会先收集到kafka然后再进行消费。

安装

  
 
 
 

   
  
  
  
yum -y install https://mirrors.tuna.tsinghua.edu.cn/elasticstack/7.x/yum/7.14.0/filebeat-7.14.0-x86_64.rpm 
  
 
 
 

配置filebeat

  
 
 
 

   
  
  
  
vim /etc/filebeat/filebeat.yml 
  
 
 
 

  
 
 
 

   
  
  
  
filebeat.inputs: 
   
  
  
  
- type: log 
   
  
  
  
  paths: 
   
  
  
  
    - /var/log/*.log 
   
  
  
  
    - /var/log/messages 
   
  
  
  
  fields: 
   
  
  
  
    type: "systemlog" 
   
  
  
  
    log_topic: "systemlog" 
   
  
  
  
  fields_under_root: true 
   
  
  
  
  exclude_lines: ["^DBG"] 
   
  
  
  
  exclude_files: [".gz$"] 
   
  
  
  
name: 192.168.122.100 
   
  
  
  
output.kafka: 
   
  
  
  
  enabled: true 
   
  
  
  
  hosts: ["192.168.122.200:9092"] 
   
  
  
  
  topic: "%{[log_topic]}" 
   
  
  
  
  partition.round_robin: 
   
  
  
  
    reachable_only: true 
   
  
  
  
  worker: 2 
   
  
  
  
  required_acks: 1 
   
  
  
  
  compression: gzip 
   
  
  
  
  max_message_bytes: 10000000 
  
 
 
 

服务管理

  
 
 
 

   
  
  
  
systemctl enable filebeat 
   
  
  
  
systemctl start filebeat 
  
 
 
 

总结

filebeat是Go写的，部署起来很方便，没什么依赖，批量部署简单。

网页题目：CentOS安装filebeat收集日志到kafka
文章出自：http://www.stwzsj.com/qtweb/news9/12359.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联