elk自动安装脚本

author author     2022-09-18     685

关键词:

ELK自动安装脚本

一、简介

ELK由Elasticsearch、Logstash和Kibana三部分组件组成;

Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Logstash是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供以后使用

kibana 是一个开源和免费的工具,它可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。

二、核心组件

Logstash: logstash server端用来搜集日志;

Elasticsearch: 存储各类日志;

Kibana: web化接口用作查寻和可视化日志;

Filebeat是一个日志文件托运工具,在你的服务器上安装客户端后,filebeat会监控日志目录或者指定的日志文件,追踪读取这些文件(追踪文件的变化,不停的读),并且转发这些信息到elasticsearch或者logstarsh中存放。

三、安装脚本

#!/bin/bash
#mail:[email protected]
#data:2017/9/7
#AutoInstall ELK scripts
#Software:elasticsearch-5.4.1/logstash-5.4.1/filebeat-5.4.1/kibana-5.4.1
clear
echo "#############################################################################"
echo "#                           Auto Install ELK.                              ##"
echo "#                           Press Ctrl + C to cancel                       ##"
echo "#                           Any key to continue                            ##"
echo "# Softwae:elasticsearch-5.4.1/logstash-5.4.1/filebeat-5.4.1/kibana-5.4.1   ##"
echo "#############################################################################"
read -p 1
software_dir="/usr/local/software"
elasticsearch_url="https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.4.1.tar.gz"
kibana_url="https://artifacts.elastic.co/downloads/kibana/kibana-5.4.1-linux-x86_64.tar.gz"
logstash_url="https://artifacts.elastic.co/downloads/logstash/logstash-5.4.1.tar.gz"
filebeat_url="https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-5.4.1-linux-x86_64.tar.gz"
sys_version=`cat /etc/redhat-release |awk ‘{print $4}‘|cut -d. -f1`
IP=`ip addr|grep "inet "|grep -v 127.0.0.1|awk ‘{print $2}‘|cut -d/ -f1`
jvm_conf="/usr/local/elasticsearch/config/jvm.options"
sys_mem=`free -m|grep Mem:|awk ‘{print $2}‘|awk ‘{sum+=$1} END {print sum/1024}‘|cut -d. -f1`

#wget software
wget_fun() {
if [ ! -d ${software_dir} ];then
    mkdir -p ${software_dir} && cd ${software_dir}
else
    cd ${software_dir}
fi
for software in $elasticsearch_url $kibana_url $logstash_url $filebeat_url
do
    wget -c $software
done
clear
}
#initial system:install java wget;set hostname;disable firewalld
init_sys() {
[ -f /etc/init.d/functions ] && . /etc/init.d/functions
[ "${sys_version}" != "7" ] && echo "Error:This Scripts Support Centos7.xx" && exit 1
[ $(id -u) != "0" ] && echo "Error: You must be root to run this script" && exit 1
sed -i "s/SELINUX=enforcing/SELINUX=disabled/"  /etc/selinux/config
setenforce 0
yum install -y java-1.8.0-openjdk wget
hostnamectl set-hostname elk-server          
systemctl stop firewalld
cat >>/etc/security/limits.conf<<EOF
* soft nofile 65536 
* hard nofile 65536 
* soft nGproc 65536 
* hard nproc 65536
EOF
}

#install elasticsearch
install_elasticsearch() {
cd $software_dir
tar zxf elasticsearch-5.4.1.tar.gz
mv elasticsearch-5.4.1 /usr/local/elasticsearch
mkdir -p /usr/local/elasticsearch/data /usr/local/elasticsearch/logs
useradd elasticsearch
chown -R elasticsearch:elasticsearch /usr/local/elasticsearch
echo "vm.max_map_count = 655360" >>/etc/sysctl.conf && sysctl -p
if [ ${sys_mem} -eq 0 ];then
    sed -i "s#`grep "^-Xmx" ${jvm_conf}`#"-Xmx512m"#g" ${jvm_conf}
    sed -i "s#`grep "^-Xms" ${jvm_conf}`#"-Xms512m"#g" ${jvm_conf}
else
    sed -i "s#`grep "^-Xmx" ${jvm_conf}`#"-Xmx${sys_mem}g"#g" ${jvm_conf}
    sed -i "s#`grep "^-Xms" ${jvm_conf}`#"-Xms${sys_mem}g"#g" ${jvm_conf}
fi
cat >>/usr/local/elasticsearch/config/elasticsearch.yml<<EOF
cluster.name: my-application
node.name: elk-server
path.data: /usr/local/elasticsearch/data
path.logs: /usr/local/elasticsearch/logs
network.host: 127.0.0.1
http.port: 9200
discovery.zen.ping.unicast.hosts: ["elk-server"]
EOF
su - elasticsearch -c "nohup /usr/local/elasticsearch/bin/elasticsearch &"
}

#install logstash
install_logstash() {
cd $software_dir
tar -zxf logstash-5.4.1.tar.gz
mv logstash-5.4.1 /usr/local/logstash
cat>/usr/local/logstash/config/01-syslog.conf<<EOF
input {
    beats {
        port => "5044"
        }
    }
output {
    elasticsearch {
        hosts => "127.0.0.1:9200"
    }
    stdout { codec => rubydebug }
}
EOF
nohup /usr/local/logstash/bin/logstash -f /usr/local/logstash/config/01-syslog.conf & >/dev/null
}

#install filebeat
install_filebeat() {
cd $software_dir
tar -zxf filebeat-5.4.1-linux-x86_64.tar.gz
mv filebeat-5.4.1-linux-x86_64 /usr/local/filebeat
cat >/usr/local/filebeat/filebeat.yml<<EOF
filebeat.prospectors:
- input_type: log
  paths:
    - /var/log/*.log
output.logstash:
  hosts: ["127.0.0.1:5044"]
EOF
cd /usr/local/filebeat/
nohup /usr/local/filebeat/filebeat & >/dev/null
}

#install kibana
install_kibana() {
cd $software_dir
tar -zxf kibana-5.4.1-linux-x86_64.tar.gz
mv kibana-5.4.1-linux-x86_64 /usr/local/kibana
cat >> /usr/local/kibana/config/kibana.yml <<EOF
server.port: 5601
server.host: "0.0.0.0"
elasticsearch.url: "http://127.0.0.1:9200"
EOF
nohup /usr/local/kibana/bin/kibana & >/dev/null
}

check() {
port=$1
program=$2
check_port=`netstat -lntup|grep ${port}|wc -l`
check_program=`ps -ef|grep ${program}|grep -v grep|wc -l`
if [ $check_port -gt 0 ] && [ $check_program -gt 0 ];then
        action "${program} run is ok!" /bin/true
else
        action "${program} run is error!" /bin/false
fi
}

main() {
init_sys
wget_fun
install_elasticsearch
install_filebeat
install_logstash
install_kibana
echo -e "33[32m Checking Elasticsearch...33[0m"
sleep 20
check :9200 "elasticsearch"
echo -e "33[32m Checking Logstash...33[0m"
sleep 2
check ":9600" "logstash"
echo -e "33[32m Checking Kibana...33[0m"
sleep 2
check ":5601" "kibana"
action "ELK install is success!" /bin/true
echo "url:http://$IP:5601"
}
main

四、脚本安装

技术分享

安装完成访问:http://IP:5601即可访问

五、配置

通过web界面访问,创建index patterns

技术分享

六、查看日志与dashboard

技术分享 技术分享

本文出自 “KaliArch” 博客,请务必保留此出处http://kaliarch.blog.51cto.com/8966921/1964265

elk简单安装

...析、存储数据三大功能,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负 查看详情

elk的tar.gz的安装

在安装ELK的过程中有些问题。安装elasticsearch和kibana直接使用系统启动脚本,加入系统启动。安装logstash的时候使用system-install文件来生成系统启动脚本。在各种使用中的问题只能查看日志文件找出问题的出现,解决之。 查看详情

elk安装配置

...个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供... 查看详情

sh使用一个用于中央日志服务器(centos6.5)的脚本安装elk堆栈(使用redis)。(代码片段)

查看详情

sh使用一个用于中央日志服务器(centos6.5)的脚本安装elk堆栈(使用redis)。(代码片段)

查看详情

sh使用一个用于中央日志服务器(centos6.5)的脚本安装elk堆栈(使用redis)。(代码片段)

查看详情

站点上线联动elk日志录入(代码片段)

ELK架构日志处理逻辑:1、业务层Filebeat安装时会自动获取主机运行站点域名及环境信息新增channel及env标签,并将channel的值作为kafka的topic信息2、Kafka收到Filebeat的新增字段及Topic信息,自动创建Topic信息,以等待logstash消费3、Logsta... 查看详情

elk测试

...存储日志。它是分布式的,也就是说可以横向扩容,可以自动发现,索引自动分片,总之很强大。文档https://www.elastic.co/guide/cn/elasticsearch/guide/current/index.htmlLogstash用来采集日志,把日志解析为json格式交给ElasticSearch。Kibana是一个... 查看详情

elk+kafka构建日志收集系统之环境安装(代码片段)

...索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口 查看详情

在windows下安装elk

...安装成功  servicemanager会弹出服务管理界面,可以设置自动启动,并启动之  浏览器访问127.0.0.1:9200,出现成功的json  程序端口为 查看详情

elk的启动脚本(代码片段)

作者:邓聪聪方便自己的应用,制作一个elk的自启动脚本#!/bin/shPATH=$PATH./etc/init.d/functionsstart()if[`whoami`==elk];thenaction"startelasticsearch:"falseecho"pleaseuseuserelkstarted"elsesu-elk-c"/elk/elasticsearch-6.3.0/bin 查看详情

elk+kafka构建日志收集系统之环境安装(代码片段)

...索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,它可以对你的日志进行收集... 查看详情

elk——01安装elk

...径为JAVA_HOME。https://www.elastic.co/cn/downloads/logstash官网直接安装logstash官网方式安装。和logstash一样,采用yum安装方式,直接看官网教程,不再赘述。https://www.elastic.co/guide/en/kibana/7.9/rpm.html#rpm-repoELK也是cs架构,所以会有一个服务器... 查看详情

docker安装部署elk教程(elasticsearch+kibana+logstash+filebeat)(代码片段)

...个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供... 查看详情

filebeat+kafka+elk集群实验

一、环境准备二、安装kafka在zookeeper集群中三台机子上均要安装修改配置文件修改环境变量配置启动脚本#!/bin/bash#chkconfig:23452288#description:KafkaServiceControlScriptKAFKA_HOME='/usr/local/kafka'case$1instart) echo"----------Ka 查看详情

elk相关启动脚本

elasticsearch启动脚本#!/bin/bash# Description:Elasticsearch ORS SERVERES_HOME=/usr/local/elasticsearch-5.0.0PID=$(jps | grep Elasticsearch | awk ‘{print $ 查看详情

elk之es使用(代码片段)

...映射类型、自定义分析器、本地脚本、自定义发现方式;安装:     方式1:直接将插件放置于plugins目录中即可;     方式2:使用plugin脚本进行安装;安装marvel、bigdesk、head、kopf#plugin命令,... 查看详情

elk配置新增脚本(代码片段)

...per如果手动配置的话工作量较大,而且容易出错。写了个脚本以便快速部署。文件结构如下?elk_scriptsgit:(master)?tree.├──README├──log-make.sh├──rsyslog-clinet-temp└──rsysl 查看详情