关键词:
什么是Kafka?
Kafka通常用于实时流数据架构,以提供实时分析。
Kafka正在爆炸式增长。超过三分之一的财富500强企业都使用Kafka。这些公司包括十大旅游公司,十大银行中的七家,十大保险公司中的八家,十大电信公司中的九家,以及更多。LinkedIn,微软和Netflix每天使用Kafka(1,000,000,000,000)处理万亿级的消息。Kafka用于实时数据流,收集大数据或进行实时分析(或两者兼而有之)。Kafka与内存微服务一起使用以提供可靠性,它可用于向 CEP(复杂事件流系统)和IoT / IFTTT式自动化系统提供事件。
为什么选择Kafka?
Kafka通常用于实时流式数据体系结构以提供实时分析。由于Kafka是一个快速,可扩展,耐用和容错的发布、订阅消息传递系统,Kafka被用于JMS,RabbitMQ和AMQP可能因为数量和响应速度而不被考虑的情况。Kafka具有更高的吞吐量,可靠性和复制特性,使其适用于跟踪服务呼叫(跟踪每个呼叫)或跟踪传统MOM可能不被考虑的物联网传感器数据。
Who在使用Kafka?
许多处理大量数据的大公司使用Kafka。
- LinkedIn起源于它,用它来跟踪活动数据和运营指标。
- Twitter使用它作为Storm的一部分来提供流处理基础设施。
- Square使用Kafka作为消息总线,将所有系统事件转移到各种Square数据中心(日志,自定义事件,度量标准等),输出到Splunk,Graphite(仪表板)以及Esper-like / CEP警报系统。
- Spotify,Uber,Tumbler,Goldman Sachs,PayPal,Box,Cisco,CloudFlare和Netflix等公司也使用这种方法。
由于整个笔记比较全面,内容相当的多 ,这里仅展示资料的一些截图☛☛【点击此处即可完整PDF原件】
kafka知识导图
第一部分:初识Kafka
通过这一部分的学习,你可以学习一下内容:
- 知道Kafka基本原理,了解关键术语概念
- 可以使用Kafka进行消息系统开发
- 通过Java语言来使用Kafka进行消息收发
内容涵盖:(特性 + 使用场景 + 技术优势 + 适应人群 + 概念详解 + 安装与配置 + Java第一个程序 + 服务端常用参数配置 + 总结)
第二部分:生产者详解
通过这一部分的学习,你可以学习一下内容:
- 深入学习Kafka数据生产大致流程
- 如何创建并使用Kafka生产者
- Kafka生产者常用配置
内容涵盖:(消息发送 + 发送原理剖析 + 其他生产者参数 + 总结)
第三部分:消费者详解
通过这一部分的学习,你可以学习一下内容:
- 深入学习Kafka数据消费大致流程
- 如何创建并使用Kafka消费者
- Kafka消费者常用配置
内容涵盖:(概念入门 + 消息接收 + 总结)
第四部分:主题
通过这一部分的学习,你可以学习一下内容:
- 深入学习Kafka主题的管理
- KafkaAdminClient应用
内容涵盖:(管理 + 增加分区 + 分区副本的分配 + 其他主题参数配置 + KafkaAdminClient应用 + 总结)
第五部分:分区
通过这一部分的学习,你可以学习一下内容:
- 深入学习Kafka分区的管理
- 包括:优先副本的选举、分区重新分配等
内容涵盖:(副本机制 + 分区Leader选举 + 分区重新分配 + 修改副本因子 + 分区分配策略 + 总结)
第六部分:Kafka存储
通过这一部分的学习,你可以学习一下内容:
- 在完成Kafka应用开发的基础上,知道文件存储机制
- Kafka为什么使用磁盘作为存储介质
- 分析文件存储格式
- 快速检索消息
内容涵盖:(存储结构概述 + 日志索引 + 日志清理 + 磁盘存储优势 + 总结)
第七部分:稳定性
通过这一部分的学习,你可以学习一下内容:
- 深入学习Kafka在保证高性能、高吞吐的同时通过各种机制来保证高可用性
内容涵盖:(幂等性 + 事务 + 控制器 + 可靠性保证 + 一致性保证 + 消息重复的场景及解决方案 + __consumer_offsets + 总结)
第八部分:高级应用
通过这一部分的学习,你可以学习一下内容:
- 作为运维人员掌握命令行工具
- 使用Connect进行流信息处理
- 掌握延迟消息、流式处理等
- Kafka和SpringBoot整合
内容涵盖:(命令行工具 + 数据管道Connect + 流式处理Spark + SpringBoot Kafka + 消息中间件选型对比 + 总结)
第九部分:集群管理
通过这一部分的学习,你可以学习一下内容:
- 熟悉Kafka集群管理相关内容
- 配置与调优
内容涵盖:(集群的特点 + 集群的能力 + 集群使用场景 + 集群搭建 + 多集群同步 + 总结)
第十部分:监控
通过这一部分的学习,你可以学习一下内容:
- 知道Kafka的监控体系
- 掌握JMX监控指标
- 数据异动实时提醒
内容涵盖:(监控度量指标 + broker监控指标 + 主题分区监控 + 生产者监控指标 + 消费者监控指标 + Kafka Eagle + 总结)
写在最后
在当前的趋势下,Kafka被越来越多的互联网独角兽企业所器重,在业务中的使用也越来越多!那么,我们就是说不一定要熟练,但是至少要学会怎么用。这样在业务中自己的能力不断地提升,才有底气和老板、和HR谈涨薪。否则,只是一味地做,不停地996,业务能力却没有提升,那么就会被公司所抛弃,更不要说什么涨薪了,你问问你自己,你配吗?
最后,我想说的是,学习并非难事,而贵在坚持,尤其是在我们参与工作之后,要继续坚持学习就更不容易了。但对于程序员来说,学习是立业之根本,如若放弃学习,被市场淘汰是迟早的事情。所以,学习更多新的知识对于自己来说才是一种更大的投资。
获取方式:需要这份 《Kafka技术手册》的朋友 请一键三连 、收藏+评论 ☞☞☞【点击此处即可】获取完整下载路径的方式!
火遍github的这份jvm性能优化实践手册,首发下载量就已过百万
本书从实验科学的角度探讨了Java性能优化的方方面面,重点阐述了**的实用JVM性能调优策略、工具和技巧。通过本书,我们不仅可以了解Java原理和技术如何充分利用现代硬件和操作系统、衡量Java性能的陷阱以及微基准测试的弊... 查看详情
这份《.net/c#面试手册》超神啦!(代码片段)
这几天给.neter们整理了一份《.NET/C#面试手册》,目前大约4万字左右,初衷也很简单,就是希望在面试的时候能够帮助到大家,减轻大家的负担和节省时间。对于没有跳槽打算的也可以复习一下相关知识点,就... 查看详情
超详细解释从javanio到netty的每一步
Netty组件介绍因为Netty被用于架构或者中间件底层通讯,所以平时我并没有直接基于Netty进行编程过,所以先大概读一下用户手册,发现用户手册Netty对基本概念两三句话概括了之,所以自己先研究了下Netty核心组件的基本概念,... 查看详情
kafka超详细知识点汇总(基础篇)
1.Kafka介绍1.1概念kafka是一个开源的分布式应用,是基于发布/订阅模式的消息队列,主要用于大数据领域的实时处理.通俗的理解就是一个特大号的Channel(用于存储,管理数据的),它可以把接收的数据按主题分类好摆放在货架上,并且提... 查看详情
全网首发spring5秘籍手册+知识导图,看完必懂
栈和队列部分(10)设计一个有getMin功能的栈(士★☆☆☆)由两个栈组成的队列(尉★★☆☆)如何仅用递归函数和栈操作逆序一个栈(尉★★☆☆)猫狗队列(士★☆☆☆)用一个栈实... 查看详情
面试题-android中高级(答案超详细)
...c;小编用业余时间整理了这份Android中高级常见的面试题及详细答案,主要包含以下这些内容:Android方面:四大组件、异步任务、消息机制、UI、性能调优、开源库、SDK、数据结构AndroidFramework:系统启动流程、Binder... 查看详情
全网最新首发:python从入门到精通的完整学习路线图附:全套python学习资料(代码片段)
后台有很多粉丝朋友们留言问我,Python应该怎么学?爬虫和数据分析怎么学?机器学习怎么学?其实python的门槛不是特别高,但是很多朋友感觉很迷茫,学了一段时间还是不入流,很大一部分原因是你... 查看详情
2022全网最详细的音视频开发学习路线,零基础到项目实战,从小白到音视频专家
前言音视频的历史与前景在这里就不介绍了,小编之前的文章里面都有讲到。行业现状分析核心竞争力:定义音视频是程序届的皇冠,掌握音视频意味着拿到通往未来的船票,不用担心会被其他人替代。音视频是... 查看详情
请收下这份git扫盲手册
...但是这还是很不应该犯的错,于是我决定对Git做一个较为详细的学习和总结。Git介绍Git是一个开源的分布式版本控制系统,可以有效、高速的管理从很小到非常大的项目版本管理。它不需要网络的支持,现已成为很多开发人员对... 查看详情
阿里技术官最新整理总结号称全网最屌“redis核心手册”
...也经常用来做分布式锁。所谓「授人以鱼不如授人以渔」这份手册的初衷和目标就是帮助后端开发者较为深入的理解Redis背后的原理和实践经验,做到知其然也知其所以 查看详情
全网首发!查询mysql版本
01源码分析源码阅读,最核心有三点:技术基础+强烈的求知欲+耐心。1.1设计模式(45设计模式:介绍+优缺点+应用实例+源代码+解决问题)1.2Spring复习大纲:依赖注入Ioc+Beans+注解+... 查看详情
2023年黑客零基础从入门到精通学习成长路线(超多图非常详细),看完这一篇就够了。
怎样规划学习路线?如果你是一个安全行业新人,我建议你先从网络安全或者Web安全/渗透测试这两个方向先学起,一是市场需求量高,二则是发展相对成熟入门比较容易。值得一提的是,学网络安全,是... 查看详情
想自学软件测试?字节大佬熬夜7天肝出这份超详细学习指南!
...字节的大佬,为大家制定一份软件测试的自学指南(超详细)可能在座的各位应该有了解过软件测试,并且知道入门门槛可能比较低, 并且对于有一定编码基础的人来说学习周期可能会比较短等优势才会考虑想要自学--但是请做... 查看详情
想自学软件测试?字节大佬熬夜7天肝出这份超详细学习指南!
...字节的大佬,为大家制定一份软件测试的自学指南(超详细)可能在座的各位应该有了解过软件测试,并且知道入门门槛可能比较低, 并且对于有一定编码基础的人来说学习周期可能会比较短等优势才会考虑想要自学--但是请做... 查看详情
超详细apachedurid从入门到安装详细教程
1.Durid概述ApacheDruid是一个集时间序列数据库、数据仓库和全文检索系统特点于一体的分析性数据平台。本文将带你简单了解Druid的特性,使用场景,技术特点和架构。这将有助于你选型数据存储方案,深入了解Druid存储,深入了... 查看详情
sqlmap用户手册超详细
http://192.168.136.131/sqlmap/mysql/get_int.php?id=1当给sqlmap这么一个url的时候,它会:1、判断可注入的参数2、判断可以用那种SQL注入技术来注入3、识别出哪种数据库4、根据用户选择,读取哪些数据sqlmap支持五种不同的注入模式:1、基于... 查看详情
杨超越是如何实现从全网嘲到全网夸的?营销圈来告诉你!
随着宿舍东西越积越多,引来的小动物也纷纷来这里投奔。可不是,最近几天不仅蟑螂来投奔了,就连老鼠也不放过我们宿舍这一块小地了。没办法,我们都不知道怎么抓老鼠,只好求助一下度娘了。打了两个字“老鼠”,弹出... 查看详情
全网最实用的ideadebug调试技巧(超详细案例)(代码片段)
目录前言正文Debug的常见使用场景基础操作行断点(LineBreakpoints)方法断点(MethodBreakpoint)字段断点(FieldWatchpoints)异常断点(ExceptionBreakpoints)主动抛异常(ThrowException)降帧(DropFrame... 查看详情