docker安装部署elk教程(elasticsearch+kibana+logstash+filebeat)(代码片段)

-wenli -wenli     2023-04-01     389

关键词:

作者:万能付博 

链接:Docker安装部署ELK教程 (Elasticsearch+Kibana+Logstash+Filebeat)

ELK是由 Elasticsearch、Logstash和Kibana 三部分组件组成。

Elasticsearch 是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Logstash 是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供以后使用 

kibana 是一个开源和免费的工具,它可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。

+

Filebeat 是用于单用途数据托运人的平台。它们以轻量级代理的形式安装,并将来自成百上千台机器的数据发送到 Logstash 或 Elasticsearch。

 

 

 Docker 镜像统一从 https://hub.docker.com/ 下载 (安装时请使用统一版本)

 

、Docker 安装 Elasticsearch

官网镜像地址:https://hub.docker.com/_/elasticsearch

找到目前最新的(Tags)是 7.1.1

# 下载镜像 查看镜像
docker pull elasticsearch:7.1.1
docker images

技术图片

技术图片
# 创建自定义的网络(用于连接到连接到同一网络的其他服务(例如Kibana))
docker network create somenetwork

# 运行
elasticsearch
docker run -d --name elasticsearch --net somenetwork -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" elasticsearch:7.1.1

# 查看容器状态
docker ps
技术图片

技术图片

# 检测 elasticsearch 是否启动成功
curl 127.0.0.1:9200

技术图片

Elasticsearch 安装启动完成

安装ElasticSearch的中文分词器IK

在线下载并安装

./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v6.5.4/elasticsearch-analysis-ik-6.5.4.zip

技术图片

进入plugins可以看到IK分词器已经安装成功

技术图片

 

二、Docker 安装 Kibana

官网镜像地址:https://hub.docker.com/_/kibana

使用和 elasticsearch 相同版本镜像 7.1.1 (不一样可能会出现问题)

# 下载镜像 查看镜像
docker pull kibana:7.1.1
docker images

技术图片

注意:在本例中,Kibana使用默认配置,并希望连接到正在运行的Elasticsearch实例http://localhost:9200

# 运行 Kibana
docker run -d --name kibana --net somenetwork -p 5601:5601 kibana:7.1.1

# 查看容器启动状态
docker ps

 技术图片

访问 http://127.0.0.1:5601  (启动可能会较慢,如失败等几秒再尝试刷新一下)

技术图片

 

Kibana 安装启动完成

 

三、Docker 安装 Logstash

官网镜像地址:https://hub.docker.com/_/logstash

使用同版本镜像 7.1.1 

# 下载镜像 查看镜像
docker pull logstash:7.1.1
docker images

技术图片

 

我在工作目录建立一个 docker 目录 并在里面创建了 logstash 目录,用来存放所有配置

 

技术图片

1
里面放了 logstash 的配置文件

 技术图片

logstash.yml (文件内容)

path.config: /usr/share/logstash/conf.d/*.conf
path.logs: /var/log/logstash
技术图片
conf.d/test.conf (文件内容)

input 
    beats 
    port => 5044
    codec => "json"



output 
  elasticsearch  hosts => ["elasticsearch:9200"] 
  stdout  codec => rubydebug 
技术图片
技术图片
技术图片
启动 Logstash 

记得映射上面两个目录 path

docker run -it -d -p 5044:5044 --name logstash --net somenetwork -v path/logstash.yml:/usr/share/logstash/config/logstash.yml -v path/conf.d/:/usr/share/logstash/conf.d/ logstash:7.1.1

查看容器运行状态
docker ps
技术图片
技术图片

技术图片

启动成功

 

四、Docker 安装 Filebeat

官网镜像地址:https://hub.docker.com/_/filebeat

使用同版本镜像 7.1.1 

# 下载镜像 查看镜像
docker pull store/elastic/filebeat:7.1.1
docker images

技术图片

技术图片
技术图片
# 下载默认官方配置文件 (暂时在当前目录创建一个 filebeat 目录 用来放 filebeat 配置文件)
curl -L -O https://raw.githubusercontent.com/elastic/beats/7.1/deploy/docker/filebeat.docker.yml

# 打开配置文件
vim filebeat.docker.yml
技术图片


# 增加下面的配置 (收集 .log 数据 把数据发送到当前网络5044端口 (logstash 端口) )
# 这个地方的 .log 要保证有几条测试数据

filebeat.inputs:
- type: log
enabled: true
paths:
- /var/log/nginx/*.log

output.logstash:
hosts: [‘ip:5044‘]
 

# 运行Filebeat

# 请更改下面两个路径
nginx-path = 本地的日志文件目录(映射到容器中 作为数据源)
path = Filebeat配置文件路径
ip = elasticsearch 地址
docker run --name filebeat --user=root -d --net somenetwork --volume="nginx-path:/var/log/nginx/" --volume="path/filebeat.docker.yml:/usr/share/filebeat/filebeat.yml:ro" --volume="/var/lib/docker/containers:/var/lib/docker/containers:ro" --volume="/var/run/docker.sock:/var/run/docker.sock:ro" store/elastic/filebeat:7.1.1
 
技术图片
技术图片

# 查看容器启动状态
docker ps

技术图片

 

 

 

启动成功 

现在去 Kibana 查看数据,已经有数据了 

技术图片

docker部署elk与使用(代码片段)

ELK搭建与使用Docker安装ElasticsearchDocker安装KibanaDocker安装Logstash索引模式查看实时日志日志规范Docker安装Elasticsearch拉取镜像dockerpullelasticsearch:7.1.1创建自定义的网络(用于连接到连接到同一网络的其他服务)dockernetworkcreatesomenetw... 查看详情

linux12elk-->02elasticsearch部署(代码片段)

...#xff08;单台测试)7、启动服务二、安装集群head插件1、docker安装2、设置elasticsearch跨越访问三、部署elastics 查看详情

docker方式部署elk(代码片段)

1.拉取原始镜像:dockerpullsebp/elk:6602.启动下镜像方便进入,进行自定义配置修改:dockerrun-dit--nameelk\\-p5601:5601\\-p9200:9200\\-p5044:5044\\-v/data/elasticsearch:/var/lib/elasticsearch\\-v/etc/localtime:/etc/localtime\\sebp/ 查看详情

elk完整部署和使用-每天5分钟玩转docker容器技术(90)

...都有自己的日志文件,容器也不例外。前面我们已经知道Docker会将容器日志记录到 /var/lib/docker/containers/<contarinerID>/<contarinerID>-json.log,那么只要我们能够将此文件发送给ELK就可以实现日志管理 查看详情

elk完整部署和使用-每天5分钟玩转docker容器技术(90)

...都有自己的日志文件,容器也不例外。前面我们已经知道Docker会将容器日志记录到 /var/lib/docker/containers/<contarinerID>/<contarinerID>-json.log,那么只要我们能够将此文件发送给ELK就可以实现日志管理 查看详情

zabbixjava开发教程docker部署zabbix及api获取实战教程(代码片段)

文章目录Docker安装移除旧版本的docker环境安装必要系统工具添加源信息更新yum缓存安装Docker-ce启动Docker测试运行hello-world修改源Docker部署zabbix创建zabbix的MySQL运行zabbix-java-gateway运行zabbix的web端运行zabbix客户端获取api获取api远程地... 查看详情

docker最新超详细教程——安装与部署(代码片段)

Docker最新超详细教程——安装与部署安装DockerCentOS安装Docker1.卸载(可选)2. 安装yum工具3. 更新本地镜像源4.安装docker 5.注意事项关闭防火墙(重要!!!)Docker的使用1.通过命令启动docker2.输入命令&#... 查看详情

最新docker在centos7下安装部署(参考官方教程文档)(代码片段)

一、前言  Docker官方安装教程文档网址:https://docs.docker.com/engine/install/centos/本教程指导如何在Centos7下安装部署Docker,参考官方文档教程操作。  二、安装部署1、Docker旧版本称为docker或者docker-engine,如果安装了... 查看详情

docker部署lnmp完整教程(代码片段)

在Docker中部署LNMP环境可以分为以下几个步骤:安装Docker创建镜像创建DockerfilebuildDocerfile复制/修改配置文件运行镜像,并映射端口为了方便分布式部署,Nginx、PHP、MySQL和Web目录会分别放在4个不同的容器中,最后我... 查看详情

docker系列认识elk,docker安装elk和ik分词器

1.ELK简介ELK是三个开源软件的缩写,分别表示:Elasticsearch,Logstash,Kibana,它们都是开源软件。新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后传输给Logstash,官方... 查看详情

zabbixjava开发教程docker部署zabbix及api获取实战教程(代码片段)

文章目录Docker安装移除旧版本的docker环境安装必要系统工具添加源信息更新yum缓存安装Docker-ce启动Docker测试运行hello-world修改源Docker部署zabbix创建zabbix的MySQL运行zabbix-java-gateway运行zabbix的web端运行zabbix客户端获取api获取api远程地... 查看详情

zabbixjava开发教程docker部署zabbix及api获取实战教程(代码片段)

文章目录Docker安装移除旧版本的docker环境安装必要系统工具添加源信息更新yum缓存安装Docker-ce启动Docker测试运行hello-world修改源Docker部署zabbix创建zabbix的MySQL运行zabbix-java-gateway运行zabbix的web端运行zabbix客户端获取api获取api远程地... 查看详情

elk新手教程

...从ElasticSearch读取数据进行展示) 一、elasticsearch部署安装1、官网下载Z 查看详情

centos7docker安装elk(代码片段)

CentOS7Docker安装ELKCentOS7Docker安装ELK准备工作安装docker第一步:查看已安装的docker第二步:卸载旧版本第三步:安装docker依赖包第四步:查看安装docker列表第五步:启动docker第六步:查看docker版本安装docker-com... 查看详情

docker部署centos7安装docker详细步骤(无坑版教程)(代码片段)

...前必读3.卸载旧版本(如果之前安装过的话)安装Docker的详细步骤一、安装前必读在安装Docker之前,先说一下配置,我这里是Centos7Linux内核:官方建议3.10以上,3.8以上貌似也可。注意:本文的命令使用... 查看详情

docker安装elk(代码片段)

几个命令就可以完成dockerrun-it--rm-d-p 9200:9200-p 5601:5601--nameesknshou/elasticsearch-kibana接下来安装logstash.先在用户目录下建立目录settings,并在该目录下建立logstash.yml内容如下inputtcpport=>8001outputelesticsearch 查看详情

项目部署vue+springboot前后分离个人博客项目实战部署保姆教程linux+docker安装部署启动一条龙教程(代码片段)

目录SpringBoot开源项目部署在75元阿里云centos7上,小白手把手教程技术栈系统环境需求后端部署步骤redis配置前端域名从如何拥有个人服务器和域名开始说起。在职程序员教你如何选择个人服务器和个人域名,让自己变得IT... 查看详情

elk保姆级安装部署教程(代码片段)

一、ELK简介在后台开发中,日志系统是一个很重要的系统,一个架构良好的日志系统,可以帮助开发者更清楚的了解服务器的状态和系统安全状况,从而保证服务器的稳定运行。日志主要包括系统日志和应用程序... 查看详情