关键词:
Elastic Search 8.6.2集群安装部署
Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分析引擎,能够解决不断涌现出的各种用例。作为 Elastic Stack 的核心,Elasticsearch 会集中存储您的数据,让您飞快完成搜索,微调相关性,进行强大的分析,并轻松缩放规模。
1.安装版本
JDK: 使用Elastic Search自带JDK【Elastic Search 8以上都自带JDK】
Elastic Search 8.6.2最新版本下载地址:
https://www.elastic.co/cn/downloads/elasticsearch
2.服务器规划
主机名 地址 备注
node1 10.1.43.74
node2 10.1.43.75
node3 10.1.43.76
3.创建用户及用户组
Elastic Search安装时不要使用root用户,需要创建一个普通用户elasticsearch来安装,后面执行命令都是以elasticsearch用户来执行的,需要提高权限的地方使用sudo来执行:
groupadd elasticsearch
useradd elasticsearch -g elasticsearh
sudo chown -R elasticsearch.elasticsearh /usr/local/setup
上传 elasticsearch-8.6.2-linux-x86_64.tar.gz包到 /usr/local/setup
4.安装及部署
修改最大连接数
sudo vi /etc/security/limits.conf
soft nofile 65535
hard nofile 65535
soft nproc 32000
hard nproc 32000
-------说明-------
soft nproc:单个用户最大进程数量,超过会警告
hard nproc:单个用户最大进程数量,超过会报错
soft nofile:可以打开的文件最大数,超过会警告
hard nofile:可以打开的文件最大数,超过会报错
调整虚拟内存
sudo vi /etc/sysctl.conf
vm.max_map_count=262144
sudo sysctl -p
sudo chown -R elasticsearch.elasticsearch /data/elasticsearch
cd /data/elasticsearch
mkdir data logs
tar -vzxf elasticsearch-8.6.2-linux-x86_64.tar.gz
vi /usr/local/setup/elasticsearch-8.6.2/config/elasticsearch.yml
#集群名称,所有节点保持一致,同一网段会自动发现
cluster.name: es-cluster
#节点名称,一般为主机名 node-1、node-2、node-3
node.name: node-1
#节点角色,master表示管理节点,data表示数据节点
node.roles: [master,data]
#数据存放路径
path.data: /data/elasticsearch/data
#日志存放路径
path.logs: /data/elasticsearch/logs
#绑定监听IP
network.host: 0.0.0.0
#设置端口
http.port: 9200
#跨域相关设置
http.cors.enabled: true
http.cors.allow-credentials: true
http.cors.allow-origin: "*"
#节点发现
discovery.seed_hosts: ["10.1.43.74:9300","10.1.43.75:9300","10.1.43.76:9300"]
#集群初始化Master节点,会在第一次选举中进行计算
cluster.initial_master_nodes: ["10.1.43.74:9300"]
#启用节点上Elastic Search的xpack安全功能
xpack.security.enabled: false
5.启动服务
su elasticsearch
sh /usr/local/setup/elasticsearch-8.6.2/bin/elasticsearch
验证服务启动情况
curl http://10.1.43.74:9200
"name" : "node-1",
"cluster_name" : "es-cluster",
"cluster_uuid" : "_na_",
"version" :
"number" : "8.6.2",
"build_flavor" : "default",
"build_type" : "tar",
"build_hash" : "2d58d0f136141f03239816a4e360a8d17b6d8f29",
"build_date" : "2023-02-13T09:35:20.314882762Z",
"build_snapshot" : false,
"lucene_version" : "9.4.2",
"minimum_wire_compatibility_version" : "7.17.0",
"minimum_index_compatibility_version" : "7.0.0"
,
"tagline" : "You Know, for Search"
6.配置集群间安全访问证书密钥
(仅在node-1节点上操作即可)
su elasticsearch
#签发CA证书(一直回车)
sh /usr/local/setup/elasticsearch-8.6.2/bin/elasticsearch-certutil ca
#签发节点证书(一直回车)
sh /usr/local/setup/elasticsearch-8.6.2/bin/elasticsearch-certutil cert --ca elastic-stack-ca.p12
创建好的ca证书和server证书默认名称为elastic-stack-ca.p12和elastic-certificates.p12,存放在$ES_HOME目录。
cd /usr/local/setup/elasticsearch-8.6.2/config
mkdir certs
mv /usr/local/setup/elasticsearch-8.6.2/elastic-*.p12 /usr/local/setup/elasticsearch-8.6.2/config/certs/
将证书发送到另外两个节点。
scp /usr/local/setup/elasticsearch-8.6.2/config/certs/elastic-* node2:/usr/local/setup/elasticsearch-8.6.2/config/certs
scp /usr/local/setup/elasticsearch-8.6.2/config/certs/elastic-* node3:/usr/local/setup/elasticsearch-8.6.2/config/certs/
再次修改配置文件
vi /usr/local/setup/elasticsearch-8.6.2/config/elasticsearch.yml
#启用节点上Elastic Search的xpack安全功能
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: certs/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: certs/elastic-certificates.p12
7.验证集群环境
分别启动三个节点。
sh /usr/local/setup/elasticsearch-8.6.2/bin/elasticsearch -d
在浏览器访问 http://10.1.43.74:9200 这时候提示输入用户名密码。
设置用户密码
sh /usr/local/setup/elasticsearch-8.6.2/bin/elasticsearch-setup-passwords interactive
交互式设置密码,把密码hhxxttxs123BoSs465记下来。
查看节点信息
curl -u elastic:hhxxttxs123BoSs465 http://10.1.43.74:9200/_cat/nodes
10.1.43.74 4 51 1 0.01 0.02 0.05 cdfhilmrstw * node-1
10.1.43.75 7 68 0 0.12 0.18 0.12 cdfhilmrstw - node-2
10.1.43.76 8 67 0 0.13 0.12 0.08 cdfhilmrstw - node-3
查看Elastic Search健康信息
curl -u elastic:hhxxttxs123BoSs465 http://10.1.43.74:9200/_cat/health?v
epoch timestamp cluster status node.total node.data shards pri relo init unassign pending_tasks max_task_wait_time active_shards_percent
1679537398 02:09:58 es-cluster green 3 3 22 11 0 0 0 0 - 100.0%
流量分析系统---kafka集群部署
1、集群部署的基本流程Storm上游数据源之Kakfa下载安装包、解压安装包、修改配置文件、分发安装包、启动集群2、基础环境准备安装前的准备工作(zk集群已经部署完毕)?关闭防火墙chkconfigiptablesoff&&setenforce0?创建工作目录... 查看详情
20190426部署zookeeper集群
...,但是优于redis,支持消息并列与通知,实验:部署zookeeper集群:安装思路及环境:先安装Java环境,再安装zookeeper,后安装kafka,:安装思路及环境:先安装Java环境,再安装zookeeper,后安装kafka,zookeeper版本下载网址:http://mirror.b... 查看详情
zookeeper集群的安装与部署
一:集群环境模拟三台zookeeper集群环境,IP规划如下:Server1: 192.168.189.129Server2: 192.168.189.131Server3: 192.168.189.132 二:安装环境准备Zookeeper需在java环境下运行,因此在部署zookeeper环境前,需先安... 查看详情
flink部署操作-flinkstandalone集群安装部署
flink集群安装部署 standalone集群模式 必须依赖必须的软件JAVA_HOME配置flink安装配置flink启动flink添加Jobmanager/taskmanager实例到集群个人真实环境实践安装步骤 必须依赖必须的软件flink运行在所有类unix环境中,例如:li... 查看详情
zookeeper集群安装部署
zookeeper集群:zookeeper作为一个开源的分布式应用协调系统,已经用到了许多分布式项目中,用来状态同步服务、集群管理、分布式应用配置项的管理等工作。ZooKeeper的工作模式有三种:单机模式、集群模式、伪集群模式。 ... 查看详情
spark集群安装部署(代码片段)
通过Ambari(HDP)或者ClouderaManagement(CDH)等集群管理服务安装和部署在此不多介绍,只需要在界面直接操作和配置即可,本文主要通过原生安装,熟悉安装配置流程。1.选取三台服务器(CentOS系统64位) 114.55.246.88 主节点 114... 查看详情
kafka集群安装部署(代码片段)
1集群安装部署1、下载安装包(http://kafka.apache.org)https://archive.apache.org/dist/kafka/1.1.0/kafka_2.11-1.1.0.tgzkafka_2.11-1.1.0.tgz2、规划安装目录/bigdata/install3、上传安装包到服务器中通过FTP工具上传安装包到node01服务器上4、解压安装包到指... 查看详情
zookeeper安装部署-单点和集群
BuildinstructionsforHadoop(Hadoop编译安装,参考hadoop源码包中BUILDING.txt文档)----------------------------------------------------------------------------------Requirements(编译需求,需要满足以下条件才能编译成功):*UnixSystem*JDK1.6+ 查看详情
rabbitmq单机和集群部署(代码片段)
rabbitmq单机和集群部署一、单机部署1、准备工作2、部署安装2.1安装依赖环境2.2安装erlang环境2.3安装rabbitmq2.4创建RabbitMQ配置文件并修改2.5优化相关参数2.6添加RabbitMQ用户(新建用户三个mq都需要)二、集群部署1、准备工作2... 查看详情
kubernetes系列03—kubeadm安装部署k8s集群
...点:你只要安装kubeadm即可;kubeadm会帮你自动部署安装K8S集群;如:初始化K8S集群、配置各个插件的证书认证、部署集群网络等。安装简易。 缺点: 查看详情
ceph部署二(存储集群安装)
完成预检之后,你就可以开始部署Ceph存储集群了。二、创建集群2.1、创建ceph集群mkdirmy-clustercdmy-clusterceph-deploynewceph1ceph2ceph3在当前目录下用ls和cat检查ceph-deploy的输出,应该有一个Ceph配置文件、一个monitor密钥环和一个日志文件... 查看详情
rabbitmq集群部署(代码片段)
rabbitmq集群部署rabbitmq集群部署rabbitmq集群部署#修改主机名hostnamectlset-hostnamerabbitmq1hostnamectlset-hostnamerabbitmq2hostnamectlset-hostnamerabbitmq3#安装相关依赖环境yum-yinstallncurses-devel#安装erlang环境cd/data/softwgeth 查看详情
rabbitmq集群部署(代码片段)
rabbitmq集群部署rabbitmq集群部署rabbitmq集群部署#修改主机名hostnamectlset-hostnamerabbitmq1hostnamectlset-hostnamerabbitmq2hostnamectlset-hostnamerabbitmq3#安装相关依赖环境yum-yinstallncurses-devel#安装erlang环境cd/data/softwgeth 查看详情
redis4.0.1集群安装部署
安装环境 序号项目值1OS版本RedHatEnterpriseLinuxServerrelease7.1(Maipo)2内核版本3.10.0-229.el7.x86_643Redisredis-4.0.14Rubyruby2.3.4p301(2017-03-30revision58214)[x86_64-linux] 节点信息规划本来只准备部署7001-70044个实例,但是r 查看详情
解开kafka神秘的面纱:kafka单机部署和集群部署(代码片段)
...ka单机安装2.1下载压缩包2.2zookeeper安装2.3kafka安装三、kafka集群安装3.1zookeeper安装3.2kafka的安装3.3两种Topic四、尾声一、前言本文主要介绍kafka的单机和集群模式部署。二、kafka单机安装2.1下载压缩包需要先到官网下载zookeeper和kafka... 查看详情
linux企业运维——kubernetesk8s集群安装部署(代码片段)
Linux企业运维——Kubernetes(一)k8s集群安装部署文章目录Linux企业运维——Kubernetes(一)k8s集群安装部署1、Kubernetes简介1.1、什么是Kubernetes1.2、Kubernetes设计架构2、k8s安装部署2.1、环境准备2.2、安装部署1、Kubernetes... 查看详情
学习笔记hadoop——hadoop集群的安装与部署——hadoop集群部署模式配置固定ip(代码片段)
一、Hadoop集群部署模式Hadoop的安装部署的模式一共有三种:独立模式(本地模式)standalone默认的模式,无需运行任何守护进程(daemon),所有程序都在单个JVM上执行。由于在本机模式下测试和调试MapRed... 查看详情
kubernetes集群之二进制安装部署(单master节点)(代码片段)
...见的K8S按照部署方式二、安装部署分析三、首先部署ETCD集群3.1ETCD介绍3.2准备CFSSL证书签发环境3.3环境部署3.3.1搭建ETCD步骤3.3.2下载准备CFSSL证书制作工具3.3.3上传etcd-cert.sh和etcd.sh到/opt/k8s/目录中3.3.4安装ETCD服务3.3.5配置ETCD集群3.3.... 查看详情