flink安装部署

cmbk cmbk     2023-02-16     358

关键词:

Flink概述

Apache Flink是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。Flink设计为在所有常见的集群环境中运行,以内存速度和任何规模执行计算。

Flink特点

1)随处部署应用
与其它组件集成!
flink是分布式系统,需要计算资源才可执行程序。flink可以与常见的集群资源管理器进行集成(Hadoop Yarn,Apache Mesos..)。

可以单独作为独立集群运行。

通过不同部署模式实现。

这些模式允许flink以其惯有的方式进行交互。

当我们部署flink应用程序时,Flink会根据应用程序配置的并行性自动识别所需资源。从资源管理器中请求它们。

如果发生故障,flink会请求新的资源来替换发生故障的容器。

提交或控制程序都通过REST调用进行,简化Flink在许多环境的集成。

2)以任何比例应用程序(小集群、无限集群)

Flink旨在以任何规模运行有状态流应用程序。应用程序可以并行化在集群中分布和同时执行程序。

因此,我们的应用集群可以利用无限的cpu和磁盘与网络IO。

Flink可以轻松的维护非常大的应用程序状态。

用户可拓展性报告:

            1)应用程序每天可以处理万亿个事件

            2)应用程序每天可以维护多个TB的状态

            3)应用程序可以在数千个内核运行

3)利用内存中的性能

有状态Flink应用程序针对于对本地状态访问进行了优化。任务状态始终的保留在内存中,或者如果

大小超过了可用内存,则保存在访问高效的磁盘数据结构中(SSD 机械/固态)。

任务可以通过访问本地来执行所有计算。从来产生极小的延迟。

Flink定期和异步检查本地状态持久存储来保持出现故障时一次状态的一致性。

有界无界

1)无界

有开始,没有结束...

处理实时数据。

2)有界

有开始,有结束...

处理批量数据。

无界数据集应用场景(实时计算)

1)源源不断的日志数据

2)web应用,指标分析

3)移动设备终端(分析app状况)

4)应用在任何数据源不断产生的项目中


Flink运行模型
1)流计算
数据源源不断产生,我们的需求是源源不断的处理。程序需要一直保持在计算的状态。

2)批处理
计算一段完整的数据集,计算成功后释放资源,那么此时工作结束。

 

Flink的使用

1)处理结果准确:无论是有序数据还是延迟到达的数据。

2)容错机制:

有状态:保持每次的结果往下传递,实现累加。DAG(有向无环图)。

3)有很强大的吞吐量和低延迟。

计算速度快,吞吐量处理的量级大。

4)精准的维护一次的应用状态。

storm:会发生要么多计算一次,要么漏计算。

5)支持大规模的计算

可以运行在数千台节点上。

6)支持流处理和窗口化操作

7)版本化处理

8)检查点机制实现精准的一次性计算保证

checkpoint

9)支持yarn与mesos资源管理器

flink单节点安装部署

1)下载安装包

2)上传

3)解压

      tar -zxvf .tar

4)启动

bin/start-cluster.sh

5)访问ui界面

http://192.168.37.129:8081







flink+zookeeper安装部署!(代码片段)

flink环境准备zookeeper部署部署hadoop部署flink环境准备设备准备:节点 ip地址 系统 软件 磁盘node1 192.168.0.11 centos7 flink,zookeeper,hadoop 40G+100Gnode2 192.168.0.22 centos7 flink, 查看详情

flink部署操作-flinkstandalone集群安装部署

 flink集群安装部署 standalone集群模式 必须依赖必须的软件JAVA_HOME配置flink安装配置flink启动flink添加Jobmanager/taskmanager实例到集群个人真实环境实践安装步骤 必须依赖必须的软件flink运行在所有类unix环境中,例如:li... 查看详情

flink的安装和部署--standalone集群模式(代码片段)

...搭建一套独立的Flink集群,可以考虑使用这种模式。具体安装步骤(主节点)(flink-1.10.2-bin-scala_2.11.tgz用这个即可)flink-1.7.2-bin-hadoop27 查看详情

flink的安装和部署

Flink的安装和部署主要分为本地(单机)模式和集群模式,其中本地模式只需直接解压就可以使用,不以修改任何参数,一般在做一些简单测试的时候使用。本地模式在我们的  课程里面不再赘述。集群模式包含:u Sta... 查看详情

flink的安装和部署--伪分布模式(代码片段)

   Flink的安装和部署主要分为伪分布模式和集群模式:伪分布:如果Flink对应的Java进程都运行在一个物理机器上,称为伪分布模式,如果Flink对应的Java进程运行在多台物理机器上,称为集群模式.伪分布模式就是在一台服务... 查看详情

flink的安装模式

...境下运行Flink。如果是集群模式,那么可以在自己电脑上安装虚拟机,保证有一个mas 查看详情

flink安装部署

Flink概述ApacheFlink是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。Flink设计为在所有常见的集群环境中运行,以内存速度和任何规模执行计算。Flink特点1)随处部署应用与其它组件集成!flink是分布式系统... 查看详情

flink1.13.2三种方式安装部署(建议收藏!)(代码片段)

...0c;我是土哥。今天,有位Flink初学者问我有没有Flink的安装教程,看到这后,土哥二话不说直接安排上。以下教程全部使用Flink1.13.2版本,在普通用户下面部署:1、Standalone部署版本要求:版本节点部署方式f... 查看详情

flink的安装部署及wordcount测试(代码片段)

一、本地模式在本地以多线程的方式模拟Flink中的多个角色。(开发环境不用)下载地址:https://flink.apache.org/downloads.html这里下载的是:flink-1.13.0-bin-scala_2.12.tgz上传到常用的位置,然后解压。启动:切换到flink的bin目... 查看详情

flink的安装部署及wordcount测试(代码片段)

一、本地模式在本地以多线程的方式模拟Flink中的多个角色。(开发环境不用)下载地址:https://flink.apache.org/downloads.html这里下载的是:flink-1.13.0-bin-scala_2.12.tgz上传到常用的位置,然后解压。启动:切换到flink的bin目... 查看详情

(2021-03-26)大数据学习之flink安装部署以及任务提交/调度详解(代码片段)

Flink学习之安装部署以及API方法1.Flink快速安装2.Flink运行时组件3.Flink任务提交流程以及任务调度3.1任务提交流程(YARN)3.2任务调度原理3.3TaskManager与Slots3.3.1作用与关系3.3.2任务执行资源合理占用4.程序与数据流4.1数据传输... 查看详情

flink+zookeeper安装部署!(代码片段)

...点做免交互ssh-keygenssh-copy-idnode1ssh-copy-idnode2ssh-copy-idnode3##安装java环境,可以先java-version查看版本,如果匹配可以不用安装yum-yinstalljava-1.8.0-op 查看详情

flink+zookeeper安装部署!(代码片段)

...点做免交互ssh-keygenssh-copy-idnode1ssh-copy-idnode2ssh-copy-idnode3##安装java环境,可以先java-version查看版本,如果匹配可以不用安装yum-yinstalljava-1.8.0-op 查看详情

大数据——flink中的角色及安装部署(代码片段)

一、Flink中的角色Flink也遵循主从原则,主节点为JobManager,从节点为TaskManager 1.1.Client将任务提交到JobManager,并和JobManager进行任务交互获取任务执行状态。1.2.JobManager负责任务的调度和资源的管理。负责Checkpoint的协调... 查看详情

flinkcdc部署(代码片段)

文章目录Flink安装job部署1、测试代码2、打包插件3、打包4、测试测试结果JSON格式一览1、对监视的数据库表执行初始快照2、插入数据3、更新数据4、删除数据Flink安装1、解压wget-bhttps://archive.apache.org/dist/flink/flink-1.13.6/flink-1.13.6-bin... 查看详情

flinkcdc部署(代码片段)

文章目录Flink安装job部署1、测试代码2、打包插件3、打包4、测试测试结果JSON格式一览1、对监视的数据库表执行初始快照2、插入数据3、更新数据4、删除数据Flink安装1、解压wget-bhttps://archive.apache.org/dist/flink/flink-1.13.6/flink-1.13.6-bin... 查看详情

flink——部署与运行架构(代码片段)

一、下载&启动官网上下载安装包,执行下列命令即启动完成。./bin/start-cluster.sh效果图二、提交任务 查看详情

flink从入门到真香(flink环境部署-单机)(代码片段)

一、准备工作安装javayuminstalljava-11-openjdk-y[root@localhostopt]#java-versionopenjdkversion"11.0.8"2020-07-14LTSOpenJDKRuntimeEnvironment18.9(build11.0.8+10-LTS)OpenJDK64-BitServerVM18.9(build11.0 查看详情