当前位置: 首页 > news >正文

[ELK安装篇]:基于Docker虚拟容器化(主要LogStash)

文章目录

  • 一:前置准备-(参考之前博客):
    • 1.1:准备Elasticsearch和Kibana环境:
      • 1.1.1:地址:https://blog.csdn.net/Abraxs/article/details/128517777
  • 二:Docker安装LogStash(数据收集引擎,具有实时管道功能):
    • 2.1:拉取logstash镜像:
    • 2.2:根据logstash镜像生成容器:
    • 2.3:查看docker所有容器:
  • 三:开放防火墙LogStash对应的端口:
  • 四:修改LogStash配置[logstash.(yml / config)]:
    • 4.1:进入容器修改logstash.yml配置文件:
      • 4.1.1:也可以尝试通过挂在目录在宿主机配置文件操作
      • 4.1.2:修改默认配置>:改成如下配置
    • 4.2:进入容器修改pipeline文件夹下的logstash.conf配置文件:
      • 4.2.1:配置文件默认信息:
      • 4.2.2:修改填充默认配置文件信息:
    • 4.3:重启logstash容器[docker restart containerid]

一:前置准备-(参考之前博客):

1.1:准备Elasticsearch和Kibana环境:

1.1.1:地址:https://blog.csdn.net/Abraxs/article/details/128517777

在这里插入图片描述

二:Docker安装LogStash(数据收集引擎,具有实时管道功能):

2.1:拉取logstash镜像:

[root@vboxnode3ccccccttttttchenyang ~]# docker pull logstash:6.6.0
6.6.0: Pulling from library/logstash
a02a4930cb5d: Pull complete
83cf3eaa08e1: Pull complete
162671d94cae: Pull complete
c678994d9b6f: Pull complete
af6d15336df1: Pull complete
b808ea4c2d1f: Pull complete
dc25014ab499: Pull complete
16159f779f38: Pull complete
521d45965a24: Pull complete
30fa9d097a91: Pull complete
066458677680: Pull complete
Digest: sha256:08bc3d552c6ec2d47e3970e063dfe800e3467ba1ef80fb87f37902daba9a560b
Status: Downloaded newer image for logstash:6.6.0
docker.io/library/logstash:6.6.0
[root@vboxnode3ccccccttttttcyang ~]# docker images
REPOSITORY               TAG       IMAGE ID       CREATED         SIZE
wurstmeister/kafka       latest    2dd91ce2efe1   18 months ago   508MB
influxdb                 2.0       33f568b26cd9   19 months ago   342MB
grafana/grafana          latest    9b957e098315   19 months ago   275MB
logstash                 6.6.0     8f45a7702366   4 years ago     751MB
wurstmeister/zookeeper   latest    3f43f72cb283   4 years ago     510MB

2.2:根据logstash镜像生成容器:

命令如下
docker run -d -p 9600:9600 -p 4560:4560 --name logstash logstash:6.6.0
[root@vboxnode3ccccccttttttcyang ~]# docker run -d -p 9600:9600 -p 4560:4560 --name logstash logstash:6.6.0
ae0fbdac223afd98a6b00cfb30f312d58217b725342848ad59370d9e5f7a18db

2.3:查看docker所有容器:

[root ~]# docker ps
CONTAINER ID   IMAGE                    COMMAND                   CREATED         STATUS             PORTS                                                                                            NAMES
ae0fbdac223a   logstash:6.6.0           "/usr/local/bin/dock…"   3 seconds ago   Up 1 second        0.0.0.0:4560->4560/tcp, :::4560->4560/tcp, 0.0.0.0:9600->9600/tcp, :::9600->9600/tcp, 5044/tcp   logstash
29753343c1b0   wurstmeister/zookeeper   "/bin/sh -c '/usr/sb…"   2 months ago    Up About an hour   22/tcp, 2888/tcp, 3888/tcp, 0.0.0.0:2181->2181/tcp, :::2181->2181/tcp  

三:开放防火墙LogStash对应的端口:

[root ~]# firewall-cmd --permanent -zone=public --add-port=9600/tcp
usage: see firewall-cmd man page
firewall-cmd: error: unrecognized arguments: -zone=public
[root ~]# firewall-cmd --permanent --zone=public --add-port=9600/tcp
success
[root ~]# firewall-cmd --permanent --zone=public --add-port=4560/tcp
success
[root ~]# firewall-cmd --reload
success
[root ~]# firewall-cmd --permanent --zone=public --list-port
3306/tcp 8848/tcp 8091/tcp 8879/tcp 8887/tcp 8083/tcp 8086/tcp 8090/tcp 8099/tcp 9600/tcp 4560/tcp

四:修改LogStash配置[logstash.(yml / config)]:

4.1:进入容器修改logstash.yml配置文件:

4.1.1:也可以尝试通过挂在目录在宿主机配置文件操作

docker exec -it ae0fbdac223a /bin/sh

[root ~]# docker exec -it ae0fbdac223a /bin/sh
sh-4.2$ ls
bin     CONTRIBUTORS  Gemfile       lib          logstash-core             modules     pipeline  vendor
config  data          Gemfile.lock  LICENSE.txt  logstash-core-plugin-api  NOTICE.TXT  tools     x-pack
sh-4.2$ cd config/
sh-4.2$ ls
jvm.options  log4j2.properties  logstash-sample.conf  logstash.yml  pipelines.yml  startup.options
sh-4.2$
sh-4.2$ vi logstash.yml

配置文件默认信息:
在这里插入图片描述

4.1.2:修改默认配置>:改成如下配置

http.host: "0.0.0.0"
xpack.monitoring.elasticsearch.url: http://192.yourIp.103:9200
# 如果有密码执行下面
xpack.monitoring.elasticsearch.username: elastic 
xpack.monitoring.elasticsearch.password: 123456

4.2:进入容器修改pipeline文件夹下的logstash.conf配置文件:

[root@vboxnode3ccccccttttttchenyang ~]# docker exec -it ae0fbdac223a /bin/sh
sh-4.2$ ls
bin     CONTRIBUTORS  Gemfile       lib          logstash-core             modules     pipeline  vendor
config  data          Gemfile.lock  LICENSE.txt  logstash-core-plugin-api  NOTICE.TXT  tools     x-pack
sh-4.2$ cd config/
sh-4.2$ ls
jvm.options  log4j2.properties  logstash-sample.conf  logstash.yml  pipelines.yml  startup.options
sh-4.2$ cd ..
sh-4.2$ ls
bin     CONTRIBUTORS  Gemfile       lib          logstash-core             modules     pipeline  vendor
config  data          Gemfile.lock  LICENSE.txt  logstash-core-plugin-api  NOTICE.TXT  tools     x-pack
sh-4.2$ cd pipeline/
sh-4.2$ ls
logstash.conf
sh-4.2$ vi logstash.conf
sh-4.2$
sh-4.2$ pwd
/usr/share/logstash/pipeline

4.2.1:配置文件默认信息:

input {beats {port => 5044}
}output {stdout {codec => rubydebug}
}

4.2.2:修改填充默认配置文件信息:

input {tcp {mode => "server"#logstash配置地址host => "0.0.0.0"port => 4560#日志文件json输出codec => json_lines}
}
output {elasticsearch {action => "index"# ES服务地址,也可以是数组多地址hosts  => ["192.168.56.102:9200"]# Es index > 类似DB数据库index  => "index-logstash"}	stdout {codec => rubydebug}
}

4.3:重启logstash容器[docker restart containerid]

http://www.lryc.cn/news/97265.html

相关文章:

  • 纪录片《打铁文艺社》:从全美高中生电影节到多项国际赞誉,聚焦城市公共艺术的蜕变之路
  • VLAN---虚拟局域网
  • 新的CoolSiC™槽沟MOSFET技术,用于低栅氧化物应力和高性能
  • 【开源项目】低代码数据可视化开发平台-Datav
  • 【自动话化运维】Ansible常见模块的运用
  • 深入理解C语言中的字符指针初始化与用法
  • es添加索引命令行和浏览器添加索引--图文详解
  • Java 大数字运算之 BigDecimal 类
  • MySQL 8.0 OCP (1Z0-908) 考点精析-架构考点1:二进制日志文件(Binary log)
  • MY.CNF
  • SpringBoot IOC与AOP(一)
  • JVM运行时数据区——方法区的垃圾回收
  • LeetCode213.House-Robber-II<打家劫舍II>
  • 订单系统问题汇总
  • springboot热加载spring-boot-devtools:
  • QT学习之旅 - 一个QT的基本项目
  • 大数据课程D2——hadoop的概述
  • 使用nginx和ffmpeg搭建HTTP FLV流媒体服务器(摄像头RTSP视频流->RTMP->http-flv)
  • 揭秘APT团体常用的秘密武器——AsyncRAT
  • Flutter Widget Life Cycle 组件生命周期
  • LeetCode面向运气之Javascript—第2600题-K件物品的最大和-94.68%
  • 数学建模学习(4):TOPSIS 综合评价模型及编程实战
  • PHP之Smarty使用以及框架display和assign原理
  • 《TCP IP网络编程》第十一章
  • Folx Pro 5 最好用的Mac磁力链接BT种子下载工具
  • Redis 数据库的高可用
  • elementPlus dialog组件设置可拖动,当内容高度大于视口高度拖动显示异常的解决办法
  • 亲测解决Git inflate: data stream error (incorrect data check)
  • Ansible 自动化运维工具
  • node.js 爬虫图片下载