elasticsearch——windows下es集群部署&linux下es单节点集群部署(代码片段)

张起灵-小哥 张起灵-小哥     2023-01-04     461

关键词:

1.开篇

在之前的两篇文章中,说白了就是在windows下部署的ES单节点的环境。

这篇文章主要是说一下windows下部署ES集群、Linux下单节点部署。

单台 Elasticsearch 服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服务器集群中。除了负载能力,单点服务器也存在其他问题:

  • 单台机器存储容量有限
  • 单服务器容易出现单点故障,无法实现高可用
  • 单服务的并发处理能力有限

配置服务器集群时,集群中节点数量没有限制,大于等于 2 个节点就可以看做是集群了。一般出于高性能及高可用方面来考虑集群中节点数量都是 3 个以上。

一个集群就是由一个或多个服务器节点组织在一起,共同持有整个的数据,并一起提供索引和搜索功能。一个 Elasticsearch 集群有一个唯一的名字标识,这个名字默认就是”elasticsearch”。这个名字是重要的,因为一个节点只能通过指定某个集群的名字,来加入这个集群。

集群中包含很多服务器,一个节点就是其中的一个服务器。作为集群的一部分,它存储数据,参与集群的索引和搜索功能。一个节点也是由一个名字来标识的,默认情况下,这个名字是一个随机的漫威漫画角色的名字,这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的,因为在这个管理过程中,你会去确定网络中的哪些服务器对应于 Elasticsearch 集群中的哪些节点。一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下,每个节点都会被安排加入到一个叫做“elasticsearch”的集群中,这意味着,如果你在你的网络中启动了若干个节点,并假定它们能够相互发现彼此,它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。


2.Windows部署ES集群

首先创建一个elasticsearch-cluster文件夹,在其中创建三个一模一样的由ES安装包解压之后的文件。

同时在每一个节点的config目录下的elasticsearch.yml 配置文件中做如下修改:

#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch

#节点名称,集群内要唯一
node.name: node-1001
node.master: true
node.data: true

#ip地址
network.host: localhost

#http端口
http.port: 1001
#tcp监听端口
transport.tcp.port: 9301

#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"
#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch

#节点名称,集群内要唯一
node.name: node-1002
node.master: true
node.data: true

#ip地址
network.host: localhost
#http端口
http.port: 1002
#tcp监听端口
transport.tcp.port: 9302

#候选主节点的地址,在开启服务后可以被选为主节点
discovery.seed_hosts: ["localhost:9301"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5

#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"
#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch

#节点名称,集群内要唯一
node.name: node-1003
node.master: true
node.data: true

#ip地址
network.host: localhost
#http端口
http.port: 1003
#tcp监听端口
transport.tcp.port: 9303

#候选主节点的地址,在开启服务后可以被选为主节点
discovery.seed_hosts: ["localhost:9301","localhost:9302"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5

#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"

以上三个节点都配置完成之后,依次进入这三个节点的bin目录下,双击elasticsearch.bat,启动ES服务。

三个节点都已经启动,可以到Postman中检测一下集群节点的状况。

在节点1001中,创建索引之后,在1002、1003节点中均可查看。


3.Linux部署ES单节点

首先直接rz,将es的linux版本压缩包上传至linux中,然后tar -zxvf解压。

由于解压之后,文件名太长,我这里先做了一次改名。

因为安全问题,Elasticsearch 不允许 root 用户直接运行。所以要创建新用户,我就在 root 用户中创建新用户es。

chown -R es:es /opt/module/es #文件夹所有者。

之后切换到es用户中,bin目录下的命令直接启动即可。

修改 /opt/module/es/config/elasticsearch.yml 文件
# 加入如下配置
cluster.name: elasticsearch
node.name: node-1
network.host: 0.0.0.0
http.port: 9200
cluster.initial_master_nodes: ["node-1"]


修改/etc/security/limits.conf
# 在文件末尾中增加下面内容
# 每个进程可以打开的文件数的限制
es soft nofile 65536
es hard nofile 65536


修改/etc/security/limits.d/20-nproc.conf
# 在文件末尾中增加下面内容
# 每个进程可以打开的文件数的限制
es soft nofile 65536
es hard nofile 65536 

# 操作系统级别对每个用户创建的进程数的限制

* hard nproc 4096
# 注:* 带表 Linux 所有用户名称


修改/etc/sysctl.conf
# 在文件中增加下面内容
# 一个进程可以拥有的 VMA(虚拟内存区域)的数量,默认值为 65536
vm.max_map_count=655360


重新加载
sysctl -p


修改完成之后,启动。

启动完成,到Poatman中测试。


4.Linux部署ES集群

最后简单的说一下Linux下ES集群部署,其实也不难,只是我的虚拟机内存性能等各种问题限制,所以这里无法实操了。

大概的步骤就是:开启3个Linux虚拟机终端(ip不能一样),分别在3个Linux终端下解压ES的安装包,之后在3个Linux终端中创建用户es,按照上面单节点方式进行多个配置文件的修改。

修改/opt/module/es/config/elasticsearch.yml 文件

# 加入如下配置
#集群名称
cluster.name: cluster-es
#节点名称,每个节点的名称不能重复
node.name: node-1
#ip 地址,每个节点的地址不能重复
network.host: linux1
#是不是有资格主节点
node.master: true
node.data: true
http.port: 9200
# head 插件需要这打开这两个配置
http.cors.allow-origin: "*"
http.cors.enabled: true
http.max_content_length: 200mb
#es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["node-1"]
#es7.x 之后新增的配置,节点发现
discovery.seed_hosts: ["linux1:9300","linux2:9300","linux3:9300"]
gateway.recover_after_nodes: 2
network.tcp.keep_alive: true
network.tcp.no_delay: true
transport.tcp.compress: true
#集群内同时启动的数据任务个数,默认是 2 个
cluster.routing.allocation.cluster_concurrent_rebalance: 16
#添加或删除节点及负载均衡时并发恢复的线程个数,默认 4 个
cluster.routing.allocation.node_concurrent_recoveries: 16
#初始化数据恢复时,并发恢复线程的个数,默认 4 个
cluster.routing.allocation.node_initial_primaries_recoveries: 16

修改/etc/security/limits.conf

# 在文件末尾中增加下面内容
es soft nofile 65536
es hard nofile 65536

修改/etc/security/limits.d/20-nproc.conf

# 在文件末尾中增加下面内容
es soft nofile 65536
es hard nofile 65536
* hard nproc 4096
# 注:* 带表 Linux 所有用户名称

修改/etc/sysctl.conf

# 在文件中增加下面内容
vm.max_map_count=655360

重新加载:sysctl -p

最后分别在3个Linux终端下,切换到es用户,启动配置好的ES节点。(如果启动失败,重新切回root用户,在3个Linux终端下分别执行一次这个命令:

chown -R es:es /opt/es-cluster-node1、chown -R es:es /opt/es-cluster-node2、chown -R es:es /opt/es-cluster-node3 )

#启动
bin/elasticsearch
#后台启动
bin/elasticsearch -d

启动完成之后,测试:http://虚拟机ip:9200/_cat/nodes,即可看到和上面windows集群在Poatman中相同的测试结果。

windows下安装elasticsearch6.4.1

...略)2、安装git(步骤略)3、安装nodejs(步骤略)4、下载elasticsearch6.4.1,将下载后的es解压,进入bin文件夹,执行elasticsearch.bat,正常情况es发布在9200端口,访问http://localhost:9200,若出现下图则说明es安装正常。 一、安装Elasti... 查看详情

elasticsearch——windows下es集群部署&linux下es单节点集群部署(代码片段)

...要是说一下windows下部署ES集群、Linux下单节点部署。单台Elasticsearch服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服... 查看详情

elasticsearch——windows下es集群部署&linux下es单节点集群部署(代码片段)

...要是说一下windows下部署ES集群、Linux下单节点部署。单台Elasticsearch服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服... 查看详情

es——windows安装elasticsearch(代码片段)

一、安装JDK环境与环境变量配置因为ElasticSearch是用Java语言编写的,所以必须安装JDK的环境,并且是JDK1.8以上,具体操作步骤自行百度  安装完查看java版本    注意:最好还是安装jdk11或者以上的,我jdk8安装... 查看详情

windows下安装elasticsearch

之前讲了 linux下elasticsearch安装、配置及示例,本文是在Windows环境下安装elasticserach。1.下载2017-8-25博文更新—-下载地址原elasticsearch下载地址失效,请点此下载elasticsearch-5.5.0因为es5.5.0的文件目录和以前的版本不太一样,所以... 查看详情

elasticsearch系列4---windows下安装kibana(代码片段)

...ana是ElasticStack家族内的一部分,它是一个管理网站,与ES(ElasticSearch)集成可以用来管理ES的索引,除ES外它还可以跟Elastic家族的其他组件进行整合如logstash、Elasticsearch-Hadoop等。相比我们之前讲过的elasticsearch-head,Kibana的功能要强... 查看详情

windows下安装elasticsearchkibana工具

1.安装Elasticsearch下载Elasticsearch安装包(Windows版本)Elasticsearch下载链接解压elasticsearch-8.6.1-windows-x86_64.zip进入解压后的elasticsearch-8.6.1文件目录bin:主文件目录Linux启动脚本:elasticsearchWindows启动脚本:elasticsearch... 查看详情

elasticsearch集群部署windows+linux双系统搭建(代码片段)

...er)配置首先打开node-1文件夹->config目录下-》bin目录下的elasticsearch.ym 查看详情

docker,windows,linux下安装elasticsearch(代码片段)

Windows下安装ES1.下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch2.选择自己要下载的windows版本:3.解压安装Windows版的Elasticsearch的安装很简单,解压即安装完毕,解压后的Elasticsearch的目录结构如下:目录 查看详情

docker,windows,linux下安装elasticsearch(代码片段)

Windows下安装ES1.下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch2.选择自己要下载的windows版本:3.解压安装Windows版的Elasticsearch的安装很简单,解压即安装完毕,解压后的Elasticsearch的目录结构如下:目录 查看详情

分布式安装elasticsearch

参考技术A环境windows1、进入官网下载Elasticsearch:Elasticsearch-7.13.32、选择一个盘,新建目录ES(可自行定义),将下载的文件放到ES目录中,并将文件解压后复制两份,分别自定义命令为:elasticsearch-node-master、elasticsearch-node-1、elas... 查看详情

windows下elk安装配置-elasticsearch/kibana/filebeat(代码片段)

以8.6.2为例,下载地址elasticsearch:https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.6.2-windows-x86_64.zipkibana:https://artifacts.elastic.co/downloads/kibana/kibana-8.6.2-windows-x86_64.zipfilebeat:https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-8.6.... 查看详情

elasticsearch索引

这是ElasticSearch2.4版本系列的第三篇:第一篇:ES1:Windows下安装ElasticSearch第二篇:ES2:ElasticSearch集群配置第三篇:ES3:ElasticSearch索引 ElasticSearch是文档型数据库,索引(Index)定义了文档的逻辑存储和字段类型,每个索引可... 查看详情

elasticsearch安装与启动(代码片段)

步骤一:下载ES压缩包   ElasticSearch分为Linux和Window版本,基于我们主要学习的是ElasticSearch的Java客户端的使用,所以我们课程中使用的是安装较为简便的Window版本,项目上线后,公司的运维人员会安装Linux版的ES供我们连接使... 查看详情

windows下fluentd传输日志到elasticsearch(fluentdelasticsearchhttps)(代码片段)

...输日志到es,官网有参数介绍:https://docs.fluentd.org/output/elasticsearch<source>@typewindows_eventlog2@idwindows_eventlog2channelssecurity#read_from_headtrueread_existing_eventsfalsetagwinevt.lograte_limit200<storage>@typelocalpersistenttruepathC:\\td-agent\\winlog.json<... 查看详情

windows下elasticsearch安装问题处理

按ES官网的安装方法正常安装就行了。可能遇到的其他问题。1、报jvm.dll不存在。只需要重新安装JDK过后,会有jdk1.8.0_73目录和jre1.8.0_73目录。因为java就喜欢玩这种“多态”,所以需要自己把jdk1.8.0_73jreinserver文件夹,复制到jre1.8.... 查看详情

windows下将es和kibana作为服务启动(代码片段)

1.将elasticsearch设置为windows系统服务:elasticsearch的bin目录下有一个elasticsearch-service.bat进入bin目录下执行:elasticsearch-service.batinstall 在win服务中心可以看到ES服务了  可以选择手动启动 2.将kibana作为服务启动(1)下载N... 查看详情

windows环境安装elasticsearch

...包括空格下载  下载地址:https://www.elastic.co/cn/downloads/elasticsearch  选择WINDOWS版本进行下载  下载后解压到要安装的目录  /conf/目录下是相应配置文件    elasticsearch.ymlES的主要配置文件    jvm.optionsES对应的JVM... 查看详情