kafka连接zookeeper配置搭建环境安装和启动,windows环境下(代码片段)

zhangphil zhangphil     2022-10-20     463

关键词:

kafka,分布式集群架构下,高性能的流式事件数据(主要是消息)集成、发布(生产)和订阅(分发、消费)组件(中间件)。

kafka依赖zooeeper(数据后端),这里有Windows下安装配置启动zookeeper的 文章(1):

Windows 10环境zookeeper单机伪集群部署和配置_Zhang Phil-CSDN博客Windows 10环境zookeeper单机伪集群部署和配置1,首先到zookeeper项目主页地址下载项目包,https://archive.apache.org/dist/zookeeper/本文基于zookeeper-3.5.52,本例目的是在一台Windows 10(64位)机器上,部署三个zookeeper节点,因此把第1步解压后的包:复...https://blog.csdn.net/zhangphil/article/details/99990669

如果zookeeper过于陈旧,需要更新,那么zookeeper最新的下载链接:

Apache ZooKeeperhttps://zookeeper.apache.org/releases.html#download

kafka最新下载链接:

Apache Kafkahttps://kafka.apache.org/downloads.html

实际上最新版的kafka已经内置、集成了zookeeper,可以按照kafka官方文档的快速启动文档跳过zookeeper配置,直接投入使用kafka,发布和订阅消息。不过鉴于系统各个关键组件和模块要解耦的思想,本文单独基于独立安装配置启动的zookeeper,然后由kafka连接到zookeeper,然后再启动kafka。

(第一部分)安装配置启动zookeeper。

这里重新简单介绍一下如何配置安装配置启动zookeeper。具体可参考文章(1)。

(1)解压从Apache下载的zookeeper压缩包后,进入/cof目录,里面有有一个zoo_sample.cfg文件,这个文件是zookeeper的配置文件,重命名该文件为zoo.cfg,并修改这个文件里面的内容,修改dataDir:

dataDir=E:/zk/tmp/data

这里存放zookeeper存储的数据。

(2)新增log日志存放目录:

dataLogDir=E:/zk/tmp/log

(3)本例只使用集群中的一个机器,所以简单配置一个:


server.1=127.0.0.1:2889:3889

(4)写一个叫做 myid的文件,把该文件复制一份,myid里面写入(3)中的 1,放到/tmp/data/目录下面。

(5)启动zookeeper。

通过Windows控制台,进入/bin目录下,运行zkServer.bat,即启动了zookeeper:

(第二部分)安装配置启动kafka。

如果是一台单点机器,kafka配置文件可不用修改,直接到bin目录下启动kafka-server-start即可。若是分布式集群,就需要配置kafka。

找到config\\server.properties文件,里面的zookeeper.connect即为kafka要连接的zookeeper的地址,根据自己部署的zookeeper地址进行配置:

 log.dirs配置自己设备上用于存放kafka日志的路径:

 以上配置完成后,进入bin/windows目录下,找到kafka-server-start.bat文件,启动:

kafka-server-start.bat E:/kafka/config/server.properties

 启动成功。

(第三部分)基于命令行,在kafka中发布消息/订阅查看消息。

(1)创新主题topic。

kafka创建主题topic需要配置两个核心参数:

replication-factor
partitions

replication-factor:表示副本数量。每个topic可以有多个副本,副本位于集群中不同的broker上,副本的数量不能超过broker数量,否则创建主题会失败。
partitions:主题topic的分区数。kafka通过分区策略,把不同分区分配在集群中的broker上,一般会分散在不同的broker上,当只有一个broker时,所有分区就只分配到该broker上。消息会通过负载均衡发布到不同的分区上,消费者监控偏移量感知哪个分区有新数据,然后从该分区拉取新消息数据。

在旧版kafka中,创建主题topic需要,新版的kafka不需要。创建一个叫做zhangphil_demo的主题topic:

kafka-topics.bat --create --topic zhangphil_demo --bootstrap-server localhost:9092

创建成功后系统输出:

WARNING: Due to limitations in metric names, topics with a period ('.') or underscore ('_') could collide. To avoid issues it is best to use either, but not both.
Created topic zhangphil_demo.

查看刚才新建的主题zhangphil_demo的详细信息:

kafka-topics.bat --describe --topic zhangphil_demo --bootstrap-server localhost:9092

输出:

(2)在主题topic写入/发布数据(生产者),消费/订阅数据(消费者)。

kafka-console-producer.bat --topic zhangphil_demo --bootstrap-server localhost:9092

该命令是在名为zhangphil_demo的主题topic下写入数据。

为了观察效果,最好先启动kafka的消费者(订阅者),订阅主题topic:zhangphil_demo:

kafka-console-consumer.bat --topic zhangphil_demo --from-beginning --bootstrap-server localhost:9092

即,先启动kafka的订阅消费者,接受来自主题zhangphil_demo的消息。这时候,再在主题zhangphil_demo写入消息,如图:

没在主题zhangphil_demo里面写入一条消息,hello,world! x,订阅者/消费者就能收到发布者的消息。

zookeeper接入kafka,安装部署cmak监控kafka,windows环境(代码片段)

zookeeper接入kafka,安装部署CMAK监控kafka,Windows环境(1)先在Windows下安装部署kafka。kafka连接zookeeper配置搭建环境、安装和启动,Windows环境下_zhangphil的博客-CSDN博客_kafkazookeeper配置kafka,分布式集群架构下&#x 查看详情

kafka集群搭建

...CentOS6.764位  JDK版本:jdk1.8.0_131(要求JDK1.8以上)  ZooKeeper版本:3.4.8  Kakfa版本:0.9.0.1(Scala 2.11)Java安装  需要使用JDK1.8以上版本,安装和环境变量的配置参考Linux下安装JDK1.8ZooKeeper安装与环境搭建1.下载软件包  ... 查看详情

windows环境搭建zookeeper和kafka(代码片段)

1、安装JDK8JDK8下载地址:https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html配置环境变量:JAVA_HOME=E:\\ProgramFiles\\Java\\jdk1.8.0_291Path=%JAVA_HOME%\\bin2、搭建Zookeeper 查看详情

windows环境搭建zookeeper和kafka(代码片段)

1、安装JDK8JDK8下载地址:https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html配置环境变量:JAVA_HOME=E:\\ProgramFiles\\Java\\jdk1.8.0_291Path=%JAVA_HOME%\\bin2、搭建Zookeeper 查看详情

kafka集群搭建

搭建kafka集群的基本环境需要安装JDK和zookeeper(或zookeeper集群)下载kafaka安装包到服务器端并解压到指定目录[[email protected]soft]#wgethttps://www.apache.org/dyn/closer.cgi?path=/kafka/2.1.0/kafka_2.11-2.1.0.tgz [[email protected]soft]# tarz... 查看详情

zookeeper与kafka集群搭建

 一:环境准备:物理机window764位vmware3个虚拟机centos6.8 IP为:192.168.17.[129-131]JDK1.7安装配置各虚拟机之间配置免密登录安装clustershell用于集群各节点统一操作配置1:在此说明一下免密和clustershell的操作和使用方式1.1:... 查看详情

window环境搭建zookeeper,kafka集群(代码片段)

...准备一台虚拟机(window7),在虚拟机中搭建了单IP多节点的zookeeper集群(多IP节点的也是同理的),并且在本机(win7)和虚拟机中都安装了kafka。前期准备说明:1.三台zookeeper服务器,本机安装一个作为server1,虚拟机安装两个(单IP)2... 查看详情

kafka的环境搭建(安装)(代码片段)

...lesoff&&setenforce0#永久关闭kafka单机版安装采用自带的zookeeper处理1.校验一下java是否安装 java-version?javaversion"1.8.0_171"?Java(TM)SERuntimeEnvironment(build1.8.0_171-b11)?JavaHotSpot(TM)64-BitServerVM(build25.171-b11,mixedmode)如果没有安装,请先安装... 查看详情

kafka环境搭建

...source/etc/profile测试java-version 成功后进入下一步配置2.搭建zookeeper下载安装包并解压apache-zookeeper-3.5.5-bin.tar.gz配置复制文件[root@localhostconf]#cpzoo_sample.cfgzoo.cfg编辑文件[root@localhostconf]#vizoo.cfgdataDir=/gcl/apache-zookeeper-3.5.5-bin/datadataLogDir=... 查看详情

zookeeper+kafka集群搭建

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、集... 查看详情

windows环境下搭建kafka(代码片段)

1、安装Zookeeperkafka依赖Zookeeper,在安装kafka之前,需要安装、运行Zookeeper注意:安装之前确保本地Java环境变量配置成功①下载Zookeeper地址:https://zookeeper.apache.org/releases.html②解压文件本文:解压到E:\\zookeeper\\zo... 查看详情

zookeeper集群环境搭建(使用kafka的zookeeper搭建zk集群)(代码片段)

---恢复内容开始---使用kafka的zookeeper来搞集群的话和单纯用zk的其实差不了多少。0.说在前头,搭建kafka集群之前请把每个服务器的jdk搞起来。1.安装kafkawgethttp://mirrors.hust.edu.cn/apache/kafka/2.0.0/kafka_2.11-2.0.0.tgz下载kafka然后放到你的目... 查看详情

1.kafka基本环境搭建(代码片段)

文章目录1.kafka基本环境搭建1.1zookeeper安装1.2.kafka安装1.3kafka可视化管理工具1.kafka基本环境搭建kafka是一个多分区、多副本且基于ZooKeeper协调的分布式消息系统。目前已经定位为一个分布式流式处理平台,具有高吞吐、可持久... 查看详情

数仓采集之环境搭建hadoop,zookeeper,kafka,flume(代码片段)

数仓采集之环境搭建hadoop,zookeeper,kafka前期的阿里云ECS环境已装好,现在开始正式搭建项目的环境hadoop安装配置1.集群规划服务器hadoop102服务器hadoop103服务器hadoop104HDFSNameNodeDataNodeDataNodeDataNodeSecondaryNameNodeYarnNodeManagerResourcemanage 查看详情

kafka集群搭建

环境:CentOS6.5KAFKA版本: kafka_2.11-0.8.2.1ZOOKEEPER版本: zookeeper-3.4.6JDK: 1.8.0_151SERVER:172.16.2.27、172.16.2.28、172.16.2.29一、准备:1、安装JDK1.82、下载kafka和zookeeper安装包(二进制包)下载地址:kafka:http://k 查看详情

centos7安装kafka+zookeeper实践(代码片段)

...。二、部署2.1环境准备本次采用Centos7.9安装,因为kafka和zookeeper都需要用到jdk,这次安装的使用oraclejdk8https://www.oracle.com/java/technologies/javase/javase8u211-later-archive-downloads.html在服务器上下载jdk软件包在服务器上安装jdk软件包检查java... 查看详情

kafkakafka集群搭建(代码片段)

...务器,本例搭建的是一个伪集群Kafka环境  1、搭建一个zookeeper集群,参考:【ZooKeeper】ZooKeeper安装及简单操作  2、下载kafka,解压之后,复制成三分一样的实例      3、修改三个Kafka实例 查看详情

springboot集成kafka开发,接收kafka消息,java(代码片段)

在这篇文章(1)基础上:kafka连接zookeeper配置搭建环境、安装和启动,Windows环境下_ZhangPhil-CSDN博客kafka,分布式集群架构下,高性能的流式事件数据(主要是消息)集成、发布(生产)和订... 查看详情