当前位置: 首页 > news >正文

ELK企业级日志系统分析系统

目录

一、什么是ELK?

二、ELK三大组件

三、ELK的工作原理

四、完整日志系统基本特征


一、什么是ELK?

ELK平台是一套完整的日志集中处理解决方案,将 ElasticSearch、Logstash 和 Kiabana 三个开源工具配合使用, 完成更强大的用户对日志的查询、排序、统计需求。

二、ELK三大组件

三大组件:ElasticSearch、Kiabana、Logstash

1、ElasticSearch:是基于Lucene(一个全文检索引擎的架构)开发的分布式存储检索引擎,用来存储各类日志。
Elasticsearch 是用 Java 开发的,可通过 RESTful Web 接口,让用户可以通过浏览器与 Elasticsearch 通信。
Elasticsearch是一个实时的、分布式的可扩展的搜索引擎,允许进行全文、结构化搜索,它通常用于索引和搜索大容量的日志数据,也可用于搜索许多不同类型的文档。
1秒

2、Kiabana:Kibana 通常与 Elasticsearch 一起部署,Kibana 是 Elasticsearch 的一个功能强大的数据可视化 Dashboard,Kibana 提供图形化的 web 界面来浏览 Elasticsearch 日志数据,可以用来汇总、分析和搜索重要数据。

3、Logstash:作为数据收集引擎。它支持动态的从各种数据源搜集数据,并对数据进行过滤、分析、丰富、统一格式等操作,然后存储到用户指定的位置,一般会发送给 Elasticsearch。
Logstash 由 Ruby 语言编写,运行在 Java 虚拟机(JVM)上,是一款强大的数据处理工具, 可以实现数据传输、格式处理、格式化输出。Logstash 具有强大的插件功能,常用于日志处理。

相对  input(数据采集)  filter(数据过滤)  output(数据输出)

三、ELK的工作原理

(1)在所有需要收集日志的服务器上部署Logstash;或者先将日志进行集中化管理在日志服务器上,在日志服务器上部署 Logstash。
(2)Logstash 收集日志,将日志格式化并输出到 Elasticsearch 群集中。
(3)Elasticsearch 对格式化后的数据进行索引和存储。
(4)Kibana 从 ES 群集中查询数据生成图表,并进行前端数据的展示。

总结:logstash作为日志搜集器,从数据源采集数据,并对数据进行过滤,格式化处理,然后交由Elasticsearch存储,kibana对日志进行可视化处理。

四、完整日志系统基本特征

收集:能够采集多种来源的日志数据
传输:能够稳定的把日志数据解析过滤并传输到存储系统
存储:存储日志数据
分析:支持 UI 分析
警告:能够提供错误报告,监控机制

http://www.lryc.cn/news/276967.html

相关文章:

  • 11.23 校招 实习 内推 面经
  • Python战机
  • 外包做了5个月,技术退步一大半了。。。
  • 设计模式的艺术P1基础—2.2 类与类的UML图示
  • PCB 的正片、负片那些事儿
  • QT应用篇:QT解析与生成XML文件的四种方式
  • Android 正圆
  • C#,入门教程(13)——字符(char)及字符串(string)的基础知识
  • Tracert 与 Ping 程序设计与实现(2024)
  • 浅谈接口自动化测试
  • Hyperledger Fabric 核心概念与组件
  • 【C语言题解】 | 101. 对称二叉树
  • Baumer工业相机堡盟工业相机如何通过NEOAPI SDK实现相机掉线自动重连(C#)
  • [Vulnhub靶机] DriftingBlues: 5
  • 26 数字验证
  • echarts - xAxis.type设置time时该如何使用formatter的分级模板
  • 【代码随想录】刷题笔记Day47
  • 6.1 截图工具HyperSnap6简介
  • stable diffusion 人物高级提示词(二)衣物、身材
  • 外包做了1个月,技术退步一大半了。。。
  • docker-compose常用命令及.yaml配置模板
  • 工作随机:OEM(13.5)报错代理无法访问
  • Pruning Papers
  • C#COM对象的资源释放
  • 了解Apache 配置与应用
  • 悟的复杂度分析
  • 《网络是怎样连接的》2.5节图表(自用)
  • java 音乐会售票平台系统Myeclipse开发mysql数据库struts2结构java编程计算机网页项目
  • 鸿蒙开发解决agconnect sdk not initialized. please call initialize()
  • 秋招阿里巴巴java笔试试题-精