简单几步把springboot项目部署到k8s,步骤来了!(代码片段)

androidstarjack androidstarjack     2023-02-18     296

关键词:

点击上方关注 “终端研发部

设为“星标”,和你一起掌握更多数据库知识

作者:qingmu

qingmu.io/2020/04/08/Spring-Boot-Operator-User-Guide/

前言

在Kubernetes中部署spring boot应用整体上来说是一件比较繁琐的事情,而Spring Boot Operator则能带给你更清爽简单的体验。

Spring Boot Operator基于Kubernetes的custom resource definitions (CRDs)扩展API进行的开发。

打包Docker镜像

在讲部署之前我们需要先将我们的SpringBoot应用打包成标准的DockerImage。

java项目打包镜像用maven/gradle插件比较多,我的另一篇文章构建SpringBoot的Docker镜像,这里在介绍一个新的google开源的插件Jib,该插件使用起来比较方便。

注意:jib打包的镜像会导致java应用的pid=1,在使用SpringBootOperator进行发布时候,Operator会设置kubernetes的ShareProcessNamespace参数为true(v1.10+版本都可使用)来解决该问题。

下面就来演示一下我们通过https://start.spring.io生成一个标准的SpringBoot项目operator-demo,然后使用jib插件进行镜像打包

mvn com.google.cloud.tools:jib-maven-plugin:build \\
-Djib.to.auth.username=$ secrets.MY_USERNAME  \\
-Djib.to.auth.password=$ secrets.MY_PASSWORD  \\
-Djib.container.jvmFlags=--add-opens,java.base/sun.nio.ch=ALL-UNNAMED \\
-Djib.from.image=freemanliu/oprenjre:11.0.5 \\
-Dimage=registry.cn-shanghai.aliyuncs.com/qingmuio/operator-demo/operator-demo:v1.0.0

执行上面的命令之后我们将得到一个标准的docker镜像,该镜像会被推送到远程仓库。

Operator快速体验

完成了镜像的构建之后,我们紧接着来安装我们的Operator到kubernetes集群,当然了首先你需要一套集群,可以参考我之前一篇文章部署高可用kubernetes,虽然版本比较老,但是新版本其实也差不多的一个思路。

https://qingmu.io/2019/05/17/Deploy-a-highly-available-cluster-with-kubeadm/

快速安装

此处快速安装只是为了快速体验demo

kubectl apply -f https://raw.githubusercontent.com/goudai/spring-boot-operator/master/manifests/deployment.yaml

apply成功之后控制台输出

namespace/spring-boot-operator-system created
customresourcedefinition.apiextensions.k8s.io/springbootapplications.springboot.qingmu.io created
role.rbac.authorization.k8s.io/spring-boot-operator-leader-election-role created
clusterrole.rbac.authorization.k8s.io/spring-boot-operator-manager-role created
clusterrole.rbac.authorization.k8s.io/spring-boot-operator-proxy-role created
clusterrole.rbac.authorization.k8s.io/spring-boot-operator-metrics-reader created
rolebinding.rbac.authorization.k8s.io/spring-boot-operator-leader-election-rolebinding created
clusterrolebinding.rbac.authorization.k8s.io/spring-boot-operator-manager-rolebinding created
clusterrolebinding.rbac.authorization.k8s.io/spring-boot-operator-proxy-rolebinding created
service/spring-boot-operator-controller-manager-metrics-service created
deployment.apps/spring-boot-operator-controller-manager created

稍等片刻查看是否已经安装成功

kubectl  get po -n spring-boot-operator-system

成功如下输出

NAME                                                       READY   STATUS    RESTARTS   AGE
spring-boot-operator-controller-manager-7f498596bb-wcwtn   2/2     Running   0          2m15s

部署OperatorDemo应用

完成了Operator的部署之后,我们来部署我们第一个应用,这里我们就发布上面我们编写的springboot应用opreator-demo。

首先我们需要先编写一个Spring Boot Application 的CRD部署yaml,如下

# Demo.yaml
apiVersion: springboot.qingmu.io/v1alpha1
kind: SpringBootApplication
metadata:
  name: operator-demo 
spec:
  springBoot:
    version: v1.0.0
#    image: registry.cn-shanghai.aliyuncs.com/qingmuio/operator-demo/operator-demo:v1.0.0

细心的同学可能发现了,为啥连Image都没有?这怎么发布,就name,version,就能完成发布?是的没错!就能完成发布,后面我讲详细讲到他是如何完成的。

接着我们apply一下

kubectl apply -f Demo.yaml

看到console输出

springbootapplication.springboot.qingmu.io/operator-demo created

验证

表示创建成功了,接着我们来看下我们部署的第一个应用,这里我们直接用上面的yaml中的name过滤即可。

查看pod

~# kubectl  get po | grep operator-demo
operator-demo-7574f4789c-mg58m             1/1     Running   0          76s
operator-demo-7574f4789c-ssr8v             1/1     Running   0          76s
operator-demo-7574f4789c-sznww             1/1     Running   0          76s

查看下我们的pid不等于1的设置是否生效,根据下面的结果可以看到通过设置ShareProcessNamespace该参数我们可以在Kubernetes层面来解决这个pid=1的问题。

kubectl exec -it operator-demo-7574f4789c-mg58m bash
bash-5.0# ps -ef
UID        PID  PPID  C STIME TTY          TIME CMD
root         1     0  0 02:06 ?        00:00:00 /pause
root         6     0 26 02:06 ?        00:00:09 java --add-opens java.base/sun.nio.ch=ALL-UNNAMED -cp /app/resources:/app/classes:/app/libs/* io.qingmu.operator.operatordemo.Oper...
root        38     0  0 02:07 pts/0    00:00:00 bash
root        44    38  0 02:07 pts/0    00:00:00 ps -ef

查看svc

~# kubectl  get svc | grep operator-demo
operator-demo             ClusterIP   10.101.128.6     <none>        8080/TCP            2m52s

我们来访问一下试试。

root@server1:~# curl -i http://10.101.128.6:8080
HTTP/1.1 200 
Content-Type: text/plain;charset=UTF-8
Content-Length: 9
Date: Wed, 08 Apr 2020 08:45:46 GMT

hello !!!

我们来试着缩减他的副本数到1个

编辑我们的Demo.yaml,加入一个新的属性replicas

# Demo.yaml
apiVersion: springboot.qingmu.io/v1alpha1
kind: SpringBootApplication
metadata:
  name: operator-demo 
spec:
  springBoot:
    version: v1.0.0
    replicas: 1

应用一下

root@server1:~# kubectl apply -f Demo.yaml 
springbootapplication.springboot.qingmu.io/operator-demo configured

再次查看pod,你会发现我们的pod已经缩放为一个副本了

~# kubectl  get po | grep operator-demo
operator-demo-7574f4789c-sznww             1/1     Running   0          8m29s

清理operator-demo

要删除该pod 我们只需要执行delete即可

~# kubectl delete -f Demo.yaml 
springbootapplication.springboot.qingmu.io "operator-demo" deleted

再次查看pod,已经没了

kubectl  get po | grep operator-demo

部署自己的应用

部署自己私有仓库的应用需要需要先创建secret(如果已经创建跳过即可)

创建docker-registry的secret

kubectl create  \\
secret docker-registry aliyun-registry-secret \\
--docker-server=registry-vpc.cn-hangzhou.aliyuncs.com \\
--docker-username=*** \\
--docker-password=*** \\
--docker-email=***

自己应用的crd Yaml

apiVersion: springboot.qingmu.io/v1alpha1
kind: SpringBootApplication
metadata:
  name: 你的应用的名称
spec:
  springBoot:
    version: v1.0.0
    replicas: 1 
    image: 你的image地址
    imagePullSecrets: 
      - 上面创建的secret

一个完整的Spring Boot Application Yaml

下面是一个完整的yaml属性结构,大部分属性我们都可以用默认配置的即可。推荐:一百期Java面试题汇总

不设置属性,默认使用Operator中设置的通用值详见后面的自定义安装Operator。

apiVersion: springboot.qingmu.io/v1alpha1
kind: SpringBootApplication
metadata:
  name: operator-demo
  namespace: default
spec:
  springBoot:
    # image 可以不设置,如果不设置默认使用 IMAGE_REPOSITORY+/+mate.name+:+spec.springBoot.version
    # registry.cn-shanghai.aliyuncs.com/qingmuio + / + operator-demo + : + v1.0.0
    image: registry.cn-shanghai.aliyuncs.com/qingmuio/operator-demo:v1.0.0
    clusterIp: "" 
    version: v1.0.0 
    replicas: 1 
    resource:
      cpu:
        request: 50m
        limit: "" 
      memory:
        request: 1Gi
        limit: 1Gi 
    path:
      liveness: /actuator/health 
      readiness: /actuator/health 
      hostLog: /var/applog 
      shutdown: /spring/shutdown 
    imagePullSecrets: 
      - aliyun-docker-registry-secret
    env: 
      - name: EUREKA_SERVERS
        value: http://eureka1:8761/eureka/,http://eureka2:8761/eureka/,http://eureka3:8761/eureka/
    nodeAffinity: 
      key: "failure-domain.beta.kubernetes.io/zone"
      operator: "In"
      values:
        - "cn-i"
        - "cn-h"
        - "cn-g"

优雅停机的路径

由于优雅停机默认是关闭的并且并不支持Get请求所以我们需要开启和搭个桥

首先在application.yml中启用

management:
  endpoints:
    web:
      exposure:
        include: "*"
  endpoint:
    shutdown:
      enabled: true

然后桥接一个Get方法

@RestController
public class ShutdownController 
    @Autowired
    private ShutdownEndpoint shutdownEndpoint;

    @GetMapping("/spring/shutdown")
    public Map<String, String> shutdown(HttpServletRequest request) 
        return shutdownEndpoint.shutdown();
    

node亲和的使用

举一个列子 我们有一个springboot应用 user-service 希望他能分布到3个可用区的6个节点上:

首先我们把机器划分多个可用区

cn-i区(node-i1,node-i02)
cn-h区(node-g1,node-g02)
cn-g区(node-h1,node-h02)

现在我们有三个可以区 每个区有2台workload,一共6台。然后我们需要给这些机器分别打上label。

将全部的i区机器标注为cn-i

kubectl label node node-i1 failure-domain.beta.kubernetes.io/zone=cn-i
kubectl label node node-i2 failure-domain.beta.kubernetes.io/zone=cn-i

同理将h区的标注为h,g区同理

kubectl label node node-h1 failure-domain.beta.kubernetes.io/zone=cn-i
kubectl label node node-ih2 failure-domain.beta.kubernetes.io/zone=cn-i

现在准备工作我们就绪了,现在我们来设置让它达到我们的调度效果,像如下编写即可。

spec:
  springBoot:
    nodeAffinity: #可以不设置 节点亲和 这里演示的是尽量将pod分散到 i h g 三个可用区,默认设置了pod反亲和
      key: "failure-domain.beta.kubernetes.io/zone"
      operator: "In"
      values:
        - "cn-i"
        - "cn-h"
        - "cn-g"

Operator 自定义安装

上面我们快速的安装了好了,接着我们来讲解下如何自定义安装,以及有哪些自定义的参数,可以个性化的参数我们用环境变量的方式注入。

下面来修改Deployment完成自己个性化的配置部署,从我提供的部署yaml中拉倒最后,找到name是spring-boot-operator-controller-manager的Deployment,我们将修改它。

apiVersion: apps/v1
kind: Deployment
metadata:
  labels:
    control-plane: controller-manager
  name: spring-boot-operator-controller-manager
  namespace: spring-boot-operator-system
.....

        #注意:一下配置针对通用全局的spring boot默认配置,对crd的spring boot生效,这里不配置也可以在部署的yaml中指定

        # 私有仓库的地址,比如我的最终打包的镜像地址是 registry.cn-shanghai.aliyuncs.com/qingmuio/operator-demo/operator-demo:v1.0.0
        # 那么配置的值是 registry.cn-shanghai.aliyuncs.com/qingmuio/operator-demo
        # 配置这个值之后,我们我们如果在发布的yaml中不写image,那么使用的image就是 IMAGE_REPOSITORY+"/"+mate.name+spec.springBoot.version
        - name: IMAGE_REPOSITORY
          value: registry.cn-shanghai.aliyuncs.com/qingmuio
        # 请求CPU限制
        - name: REQUEST_CPU
          value: 50m
        # 限制最大能用最大CPU java应用可以不用限制,限制不合理会导致启动异常缓慢
        - name: LIMIT_CPU
          value: ""
        # 请求内存大小
        - name: REQUEST_MEMORY
          value: 500Mi
        # 限制最大内存大小 一般和request一样大即可
        - name: LIMIT_MEMORY
          value: 500Mi
        # 就绪检查Path,spring boot actuator 默认Path
        - name: READINESS_PATH
          value: /actuator/health
        # 就绪存活Path,spring boot actuator 默认Path
        - name: LIVENESS_PATH
          value: /actuator/health
        # 就绪存活Path,优雅停机Path
        - name: SHUTDOWN_PATH
          value: /spring/shutdown
        # 复制级 即副本数
        - name: REPLICAS
          value: "3"
        # 将日志外挂到主机磁盘Path,默认两者相同
        - name: HOST_LOG_PATH
          value: /var/applog
        # 用于pull 镜像的secrets
        - name: IMAGE_PULL_SECRETS
          value: ""
        # 用于pull 镜像的secrets
        - name: SPRING_BOOT_DEFAULT_PORT
          value: "8080"
        # node亲和,比如我可以设置pod尽量分散在不同可用区cn-i,cn-g,cn-h区
        - name: NODE_AFFINITY_KEY
          value: ""
        - name: NODE_AFFINITY_OPERATOR
          value: ""
        - name: NODE_AFFINITY_VALUES
          value: ""
        # 全局的环境变量,会追加到每个spring boot的每个pod中,格式 k=v;k1=v2,
        # 如 EUREKA_SERVERS=http://eureka1:8761/eureka/,http://eureka2:8761/eureka/,http://eureka3:8761/eureka/;k=v
        - name: SPRING_BOOT_ENV
          value: ""
        image: registry.cn-shanghai.aliyuncs.com/qingmuio/spring-boot-operator-controller:latest

.....

自定义安装之后部署

yaml可以简化为如下。

apiVersion: springboot.qingmu.io/v1alpha1
kind: SpringBootApplication
metadata:
  name: 你的应用的名称
spec:
  springBoot:
    version: v1.0.0

附录

环境变量表格

Github仓库

SpringBootOperator: https://github.com/goudai/spring-boot-operator


 

BAT等大厂Java面试经验总结

  1. 想获取 Java大厂面试题学习资料

    扫下方二维码回复「BAT」就好了

    回复 【加群】获取github掘金交流群
    回复 【电子书】获取2020电子书教程
    回复 【C】获取全套C语言学习知识手册
    回复 【Java】获取java相关的视频教程和资料
    回复 【爬虫】获取SpringCloud相关多的学习资料
    回复 【Python】即可获得Python基础到进阶的学习教程
    回复 【idea破解】即可获得intellij idea相关的破解教程
    关注我gitHub掘金,每天发掘一篇好项目,学习技术不迷路!
    如果喜欢就给个“在看”

k8s部署springboot项目

...署,接下来需要验证,本文选择通过一个简单的springboot项目来验证。springboot项目构建springboot项目这里不过多介绍,主要介绍如何构建镜像及推送到镜像仓库镜像构建首先新建文件dockerfileFROMopenjdk 查看详情

k8s部署springboot项目(代码片段)

...署,接下来需要验证,本文选择通过一个简单的springboot项目来验证。springboot项目构建springboot项目这里不过多介绍,主要介绍如何构建镜像及推送到镜像仓库镜像构建首先新建文件dockerfileFROMopenjdk 查看详情

k8s如何部署springboot项目

参考技术AK8S如何部署SpringBoot项目1:首先,需要安装docker环境,以及安装Harbor仓库2:安装K8S集群环境3:进行docker镜像的制作并上传到仓库4:进行容器的编排。启动至此就可以了。创建dockertest.yaml文件如下运行kubectlcreate-fdockertest.... 查看详情

简单几步搭建k8s1.10的dashboard

1:由于镜像被神秘力量墙掉,执行以下脚本,将镜像tag为yaml中的镜像,每个节点都要执行,因为pod可能会配分配到任意一个节点上。[[email protected]~]#vimimage.sh#/bin/bashdockerpullregistry.cn-shanghai.aliyuncs.com/qubit/kubernetes-dashboard-amd64:... 查看详情

k8s部署springboot项目(代码片段)

...署,接下来需要验证,本文选择通过一个简单的springboot项目来验证。springboot项目构建springboot项目这里不过多介绍,主要介绍如何构建镜像及推送到镜像仓库镜像构建首先新建文件dockerfileFROMopenjdk:8-jdk-alpineMAINTAINERcayd... 查看详情

k8s部署springboot项目(代码片段)

...署,接下来需要验证,本文选择通过一个简单的springboot项目来验证。springboot项目构建springboot项目这里不过多介绍,主要介绍如何构建镜像及推送到镜像仓库镜像构建首先新建文件dockerfileFROMopenjdk:8-jdk-alpineMAINTAINERcayd... 查看详情

使用springbootoperator部署springboot到k8s(代码片段)

...u.io/2020/04/08/Spring-Boot-Operator-User-Guide前言在Kubernetes中部署springboot应用整体上来说是一件比较繁琐的事情,而SpringBootOperator则能带给你更清爽简单的体验。SpringBootOperator基于Kubernete 查看详情

使用jenkins实现重构项目并部署项目到阿里k8s环境运行(代码片段)

第一步比如我有一个项目A,并且jenkins里配置的构建分支名称为-->branchA所以在构建前,需要将最新的master分支merge到branchA分支,保证gctest拥有全部最新的代码变更.第二步以这个A项目为例,进入到Jenkins主页面点击我们的namespace这个... 查看详情

打包部署springboot项目到linux并后台运行(代码片段)

...cker和k8s类似的那一套自动化运维方式。一般地,对于springboot项目,我们会把开发测试好的项目打成可执行的jar包,使用scp等方 查看详情

轻松提高性能和并发度,springboot简单几步集成缓存(代码片段)

目录1、缘由2、技术介绍2.1、技术调研2.2、spring支持的cache2.3、cache的核心注解 2.3.1 @EnableCaching2.3.2@Cacheable 2.3.3 @CachePut2.3.4 @CacheEvict 2.4cache的架构2.5cachemanager的实现类3、搞个例子3.1为什么使用redis作为缓存3.2代码... 查看详情

轻松提高性能和并发度,springboot简单几步集成缓存(代码片段)

目录1、缘由2、技术介绍2.1、技术调研2.2、spring支持的cache2.3、cache的核心注解 2.3.1 @EnableCaching2.3.2@Cacheable 2.3.3 @CachePut2.3.4 @CacheEvict 2.4cache的架构2.5cachemanager的实现类3、搞个例子3.1为什么使用redis作为缓存3.2代码... 查看详情

云原生kubernetesk8s集群部署springboot项目(代码片段)

...比较接近实际业务的使用场景,使用k8s集群部署一个springboot的项目,我们的需求是:部署SpringBoot项目到阿里云服务器 ;基于容器打包,推送私有镜像仓库;采用K8S集群部署,对外暴露服务,pod副... 查看详情

springboot部署k8s(代码片段)

...成功总结前言本系列教程将分2篇文章讲解,怎么部署springboot到k8s上。第一篇:springboot准备,这里包括打包镜像。第二篇:springboot镜像部署到k8s,我们将使用deployment,service用最简单的方式deployk8s.一、IDEA工程目录二... 查看详情

docker化你的springboot项目

...ji)友(you),因为微服务架构下的业务服务通常都基于SpringBoot进行开发,上线部署服务的时候通过容器来进行部署,能够简化部署的过程,然后使用一些容器管理工具管理容器,例如k8s、rancher等。这样才能方便我们进行扩展... 查看详情

k8s部署springboot项目(一篇够用)(代码片段)

...天这篇文章主要介绍如何从0开始搭建一套基于K8s部署的SpringBoot案例教程。基础环境准备 查看详情

springboot项目部署在kubernetes(k8s)集群上的demo

参考技术A一、新建springboot项目在pom.xml文件添加注意:springboot自带的spring-boot-maven-plugin不要删,否则会找不到manifast文件。二、建立自己的镜像:Dockerfile在服务器上安装docker和k8s,参考https://kuboard.cn/install/install-dashboard.html并敲... 查看详情

springboot2.0:使用docker部署springboot开源软件云收

...单!云收藏项目已经开源2年多了,作为当初刚开始学习SpringBoot的练手项目,使用了很多当时很新的技术,现在看来其实很多新技术是没有必要使用的,但做为学习案例来讲确实是一个绝佳的SpringBoot实践。从开源到现在,写了一... 查看详情

react+springboot项目部署到腾讯云

...个人网站,并将项目部署到腾讯云。前端:React,后端:SpringBoot,云服务:centos7建议使用create-react-app创建react项目包,简单快捷。进入项目路径,开始运行直接使用项目自身的build指令进行打包,完成后会在项目根目录多出一个... 查看详情