elk搭建实时日志分析平台之二logstash和kibana搭建(代码片段)

铁乐与猫梦境之森 铁乐与猫梦境之森     2022-10-21     129

关键词:

本文书接前回《ELK搭建实时日志分析平台之一ElasticSearch》
文:铁乐与猫

四、安装Logstash

logstash是一个数据分析软件,主要目的是分析log日志。

1)下载和解压logstash

下载地址:
https://www.elastic.co/cn/downloads/logstash

上传到服务器/usr/ELK目录后,解压:sudo tar -zxvf logstash-6.1.3.tar.gz
我下的这个6.1.3版本的logstash tar包大小有110多M了。
修改属主权限:sudo chown -R elsearch:ELK logstash-6.1.3

2)准备一个适合的配置文件:logstash.conf

可以参考官网给出的示例配置文件:
技术分享图片

测试一段syslog日志文本。
cd logstash-6.1.3
sudo vim logstash-sample.conf
在logstash主目录创建配置文件logstash-sample.conf,
内容如下:

input  stdin  type => "syslog"  
filter  
output 
  elasticsearch  hosts => "192.168.251.20:9200" 
  stdout  codec => rubydebug 

保存,修改权限:sudo chown elsearch:ELK logstash-sample.conf

3)运行logstash:bin/logstash -f logstash.conf

切换到elsearch用户,在logstash主目录下,运行:
/usr/ELK/logstash-6.1.3/bin/logstash -f /usr/ELK/logstash-6.1.3/logstash-sample.conf
技术分享图片
运行后,测试的话我们可以在终端输入一些文字消息,比如下图:
技术分享图片
我随意输入的是elk-test 2018-2-7,回车后就生成了一段日志记录。
Logstash在Console返回的输出内容,同时以上内容也发送到了ElasticSearch。

有一个现象是发现logstash启动会很慢,原因可能是
JVM的随机数字生成参数导致,诊断和修改方式:
修改文件
$JAVA_HOME/jre/lib/security/java.security
注:可以通过locate查找java.security来找到文件,比如我查找出来的路径就是/usr/java/jdk1.8.0_144/jre/lib/security/java.security
修改参数
securerandom.source=file:/dev/urandom
技术分享图片
重新启动Logstash,就快多了。不过导致的效果可能是没有随机生成参数那么安全。

五、安装Kibana和x-pack安全组件

Kibana 让您能够可视化 Elasticsearch 中的数据并操作 Elastic Stack。

kibana下载地址:
https://www.elastic.co/cn/downloads/kibana
注意,如果要找往期版本的话在官网上有个past releases(往期版本)的超链接。

上传到服务器/usr/ELK目录后,解压:sudo tar -zxvf kibana-6.1.3-linux-x86_64.tar.gz
我下的这个6.1.3版本的kibana tar包大小有60多M。
本来想修改属主权限的,却意外发现sudo解压后竟不是root属主和属组,而是www的属主和属组。
而原本我服务器也的确已有www用户,所以就先不动属主了,毕竟kibana是要用到web浏览的多,www属主也挺好。
不过解压后的目录名过长也不易辩识,所以有必要改名和起个软链接:
sudo mv kibana-6.1.3-linux-x86_64 kibana-6.1.3
sudo ln -s kibana-6.1.3 kibana
同时做了一个软链接,映射,这样就算以后版本更新了也只需重新修改一下软链接即可。

x-pack安装说明地址:
https://www.elastic.co/cn/downloads/x-pack

x-pack将诸多强大功能集合到一个单独的程序包中且与整个 Elastic Stack 无缝集成,
将它安装到 Elasticsearch 和 Kibana 中,能够让很多工作变得简单,例如,确保 Elasticsearch 中数据的安全,或通过 Kibana 添加登录屏幕。

技术分享图片
参照上图官方所提及的x-pack安装步骤,我们先来进行第一步,从elasticsearch开始安装x-pack插件:
bin/elasticsearch-plugin install x-pack
技术分享图片
安装完成后到elasticsearch目录的plugins目录下可以看到有x-pack的子目录。x-pack目录中会有很多个jar文件。
官网第二步是运行elasticsearch,假如这个时候访问elasticsearch服务器9200端口的网页会看到和之前不同,会有授权弹窗了。
技术分享图片
所以第三步则是生成默认的密码,这个密码用于elastic和kibana用户:
技术分享图片
密码生成之后,我先尝试使用elastic用户和密码&wmVcGEIXB1GUliGqlFh登录可以正常访问到。可见是马上生效的。
当然,你可能会更关注要到哪里将这串随意的密码改成易记的自己的密码。
elasticsearch的话编辑主目录的config/elasticsearch.yml配置文件,同理其它两个服务也是找相应的yml配置文件。

先回到第四步,kibana安装x-pack:
进到kibana的主目录后,运行:
bin/kibana-plugin install x-pack
技术分享图片
注意的是,kibana安装x-pack会有那么一小段时间很短暂的时间很吃内存,我监控都报警了。

第五步,添加认证信息到kibana的yml配置文件;
vim /usr/ELK/kibana/config/kibana.yml
技术分享图片
添加上
elasticsearch.username: "kibana"
elasticsearch.password: "etfF?FSJ~47=6E^2x6+6"
用户名为kibana,密码则可以先填之前第三步生成的随机密码。
后补注:以上填写的信息是错误的,正确的是填elsatic的用户名和密码才不会出现接下来的错误!

设置Kibaba连接上ElasticSearch
编辑文件config/kibana.yml
设置参数
server.host和elasticsearch.url
注意要和之前elasticserach中设置的一样,比如我这里填的是:
server.host: "192.168.251.20"
elasticsearch.url: "http://192.168.251.20:9200"

第六步,启动kibana服务,同时防火墙,安全组之类开放服务默认的5601端口;
nohup bin/kibana &
或直接sudo /bin/kibana启动。
访问kibana的是默认5601端口,但要记得在kibana的配置yml文件里设置好host和url。
能正常启动,但有很多报警信息和报错。浏览器访问kibana界面时也可以看到出现登录被禁用的错误了:
技术分享图片

登录目前禁用。管理员应该查看Kibana日志,了解更多细节。

log [03:07:31.810] [warning][license][xpack] License information from the X-Pack plugin could not be obtained from Elasticsearch for the [data] cluster. Error: Request Timeout after 30000ms

日志报错显示X-Pack插件出了问题导致超时,要先处理了。

尝试了一下,搞明白了,原来之前的config/kibana.yml配置文件中
elasticsearch.username和elasticsearch.password两项中要填入的不是kibana的用户名和密码,而是填入elstaic的用户名和密码!
因为kibana要先通过elstaic的认证!所以编辑文件config/kibana.yml
elasticsearch.username: "elastic"
elasticsearch.password: "&wmVcGEIXB1GUliGqlFh"

现在再重新启动kibana,再访问,可以正常登录了,输入的就是kibana用户名和密码了:
技术分享图片

登录通过的界面:
技术分享图片

ELK的环境搭建完成了,后续还有很多插件可以自行看着官网文档进行安装。
而关于ELK的使用,留待之后的文稿。

2018-2-13
END












































































elk(elasticsearch,logstash,kibana)搭建实时日志分析平台

ELK平台介绍在搜索ELK资料的时候,发现这篇文章比较好,于是摘抄一小段:以下内容来自:http://baidu.blog.51cto.com/71938/1676798日志主要包括系统日志、应用程序日志和安全日志。系统运维和开发人员可以通过日志了解服务器软硬件... 查看详情

elk搭建实时日志分析平台(代码片段)

ELK搭建实时日志分析平台导言ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成,ELK平台可以同时实现日志收集、日志搜索和日志分析的功能。对于生产环境中海量日志信息的分析处理无疑不是一个好的解决方案。官方网站:https... 查看详情

[bigdata-elk]elk(elasticsearch,logstash,kibana)搭建实时日志分析平台

ELK平台介绍在搜索ELK资料的时候,发现这篇文章比较好,于是摘抄一小段:以下内容来自: http://baidu.blog.51cto.com/71938/1676798日志主要包括系统日志、应用程序日志和安全日志。系统运维和开发人员可以通过日志了解服务器软... 查看详情

elk搭建实时日志分析平台(elk+kafka+metricbeat)-搭建说明

数据流向:metricbeat->kafka->logstash->elasticsearch->kibana.应用分布:主机应用备注192.168.30.121javaversion"1.8.0_144"zookeeper-3.4.10.tar.gzkafka_2.12-0.11.0.0.tgzelasticsearch-5.5.1.tar.gzlogstash-5.5. 查看详情

elk日志分析平台搭建----elasticsearch

ELK日志分析平台搭建----ELASTICSEARCH介绍:ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成1、Elasticsearch是一个开源分布式的搜索引擎,特点是:分布式、零配置、自动发现、索引自动分片、索引副本机制、restful风格接口,多数据... 查看详情

开源实时日志分析elk平台部署

...文原文  http://baidu.blog.51cto.com/71938/1676798主题 Logstash ElasticSearch 开源开源实时日志分析ELK平台部署日志主要包括系统日志、应用程序日志和安全日志。系统 查看详情

elk实时日志分析平台(elk+kafka+metricbeat)-logstash

1.安装并测试:    650)this.width=650;"src="https://s3.51cto.com/wyfs02/M01/A6/11/wKioL1nIqvahRNJVAACwN29ApPQ825.png"title="logstash-1.png"alt="wKioL1nIqvahRNJVAACwN29ApPQ825.png"/>2.&nbs 查看详情

centos7.5搭建elk-6.5.0日志分析平台(代码片段)

...个问题。ELK并不是一个独立的系统,她是由ElasticSearch、Logstash、Kibana三个开源的工具组成。ElasticSearchElasticSearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于RESTfulweb接口。Elasticsearch是用Ja... 查看详情

centos7搭建elk开源实时日志分析系统

...索引副本机制restful风格接口多数据源自动搜索负载等。Logstash是一个完全开源的工具他可以对你的日志进行收集、分析并将其存储供以后使用如搜索。kibana也是一个开源和免费的工具他Kibana可以为Logstash和ElasticSearch提供的日志分... 查看详情

elk服务搭建(开源实时日志分析elk平台部署)(低版本—简单部署)

开源实时日志分析ELK平台部署日志主要包括系统日志、应用程序日志和安全日志。系统运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误及错误发生的原因。经常分析日志可以了解服务器的负荷,性能... 查看详情

搭建elk日志分析平台的详细过程(代码片段)

...应请求链路相关的明细日志ELK平台主要有由ElasticSearch、Logstash和Kia 查看详情

elk(elasticsearch+logstash+kibana)开源日志分析平台搭建

环境介绍System: CentOS7.2x86_64hostname: elk-server.huangming.orgIPAddress:10.0.6.42、10.17.83.42本篇的ELK环境为单机部署方式,即将ELK所有的软件包都安装在一台服务器上,配置如下:CPU: 4cMem: 8GDisk: 50一、Elasticsearch安装1 查看详情

elk实时日志分析平台部署(代码片段)

...K简介:ELK是三个开源软件的缩写,分别表示:Elasticsearch,Logstash,Kibana,它们都是开源软件。新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后传输给Logstash,官方... 查看详情

在windows系统下搭建elk日志分析平台

简介:ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成:   Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等... 查看详情

elasticsearch+logstash+filebeat+kibana搭建elk日志分析平台(官方推荐的beats架构)

俗话话说的号,没有金刚钻,也不揽那瓷器活;日志分析可以说是所有大小系统的标配了,不知道有多少菜鸟程序员有多喜欢日志,如果没了日志,那自己写的bug想不被别人发现,可就难了;有了它,就可将bug们统统消化在自己... 查看详情

elk日志分析平台搭建(代码片段)

...LK平台能够完美的解决我们上述的问题,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。官方网站:https://www.elastic.co/productsElasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引... 查看详情

centos下使用elk套件搭建日志分析和监控平台

1概述ELK套件(ELKstack)是指ElasticSearch、Logstash和Kibana三件套。这三个软件可以组成一套日志分析和监控工具。由于三个软件各自的版本号太多,建议采用ElasticSearch官网推荐的搭配组合:http://www.elasticsearch.org/overview/elkdownloads/2环... 查看详情

centos7使用elk套件搭建日志分析和监控平台

1概述ELK套件(ELKstack)是指ElasticSearch、Logstash和Kibana三件套。这三个软件可以组成一套日志分析和监控工具。由于三个软件各自的版本号太多,建议采用ElasticSearch官网推荐的搭配组合:http://www.elasticsearch.org/overview/elkdownloads/2环... 查看详情