Logstash - ELK 堆栈


ELK 代表Elasticsearch、LogstashKibana。在 ELK 堆栈中,Logstash 从不同的输入源提取日志数据或其他事件。它处理事件,然后将其存储在 Elasticsearch 中。Kibana 是一个 Web 界面,它访问 Elasticsearch 的日志数据并将其可视化。

麋鹿

Logstash 和 Elasticsearch

Logstash 提供输入和输出 Elasticsearch 插件,用于将日志事件读取和写入 Elasticsearch。由于 Elasticsearch 与 Kibana 的兼容性,Elasticsearch 公司也推荐将 Elasticsearch 作为输出目的地。Logstash 通过 http 协议将数据发送到 Elasticsearch。

Elasticsearch 提供批量上传功能,有助于将不同来源或 Logstash 实例的数据上传到集中式 Elasticsearch 引擎。与其他 DevOps 解决方案相比,ELK 具有以下优势 -

  • ELK 堆栈更易于管理,并且可以扩展以处理 PB 级的事件。

  • ELK 堆栈架构非常灵活,并且提供与 Hadoop 的集成。Hadoop 主要用于归档目的。Logstash可以通过flume直接连接Hadoop,Elasticsearch提供了一个名为es-hadoop的连接器来连接Hadoop。

  • ELK 的拥有总成本比其替代品低得多。

Logstash 和 Kibana

Kibana 不直接与 Logstash 交互,而是通过数据源(即 ELK 堆栈中的 Elasticsearch)进行交互。Logstash 从各个来源收集数据,Elasticsearch 以非常快的速度对其进行分析,然后 Kibana 提供针对该数据的可行见解。

Kibana 是一个基于 Web 的可视化工具,可帮助开发人员和其他人分析 Logstash 在 Elasticsearch 引擎中收集的大量事件的变化。这种可视化可以轻松预测或查看输入源的错误或其他重要事件的趋势变化。