cloud-security-wiki/docs/ci-cd/integration/README.md

6.4 KiB
Raw Blame History

集成

Security Cloud 采用前后端分离试开发,后端为Spring Cloud 体系架构,前端现有React,后期会继续更新Vue3.0版本前端页面

gitea + drone 集成

在安装drone的时候可知,drone需要获取到gitea的oauth2的授权,这样drone就可以通过携带秘钥信息去请求到gitea当前用户下的所有仓库了

当gitea中的仓库有request的时候,gitea会发送一个Web沟子请求到drone webhook.png

请求内容中就会包括到当前提交的相关信息,drone就可以拿到这些信息获取到gitea仓库中的最新代码

drone + k8s(rancher)

drone触发k8s是非常简单的,需要准备一个带有kubectl命令行工具的docker镜像,当drone的steps运行到了这一步了之后,只需要使用命令行工具运行:

 kubectl apply -f deployment.yml -n dev --kubeconfig=/app/config/kubectl_conf.yml

其中 kubectl_conf.yml 则是k8s的连接配置文件,deployment.yml文件则是需要构建内容的配置文件

当命令成功运行后,即可在k8s中看到新构建的内容,但是现在看来drone只是触发了k8s的构建,但是k8s构建所需要的docker镜像现在还未知,在docker中有一种叫做docker镜像仓库的存在,我们制作好的docker镜像就可以推送到镜像仓库中,并将仓库中对应的docker pull路径放到deployment.yml文件中,可以由k8s pull下来。

Harbor

Harbor是一个docker的镜像仓库他可以独立部署在drone和k8s中当做粘合剂当drone中构建好了对应docker镜像后将docker镜像推送到harbor然后将pull 的路径又放到k8s的deployment.yml文件中这样全链路就打通了。

前端

在前端项目中,有这

 .drone.yml -- drone ci/cd管道配置命令
 deployment.yml -- k8s部署文件
 default.conf -- Nginx的映射配置文件
 Dockerfile -- 将前端的打包内容构建docker镜像的文件
 docker.sh -- 进行docker打包,并且按照约定格式推送到Harbor仓库
 .dockerignore -- docker的ignore文件

.drone.yml文件内容详情

kind: pipeline # drone配置文件类型 pipeline管道
type: docker # 使用对应steps对应的类型,drone是基于docker容器进行每一个步骤的
name: security-react # 本次构建任务的名称

steps:
  - name: build-package-react # 当前steps的名称
    image: node:16.18.0 # 需要使用到的镜像,与react项目中packjson中配置的node版本一致
    volumes: # 将容器内容部的地址映射到宿主机上
      - name: cache # node构建是的缓存,防止多次下载,提高build速度
        path: /drone/src/node_modules
      - name: build # 内容挂在,将打包的好产物放到当前目录下,方便后续steps的时候
        path: /app/build
    commands: # 容器中需要执行的命令
      - export CI=false
      - rm -rf /app/build/react/* # 初始化需要使用的目录
      - cp deployment.yml /app/build/react/ # 将k8s构建文件cp到产物挂在目录
      - cp Dockerfile /app/build/react/ # 
      - cp .dockerignore /app/build/react/
      - cp default.conf /app/build/react/
      - cp docker.sh /app/build/react/
      - cp nginx.conf /app/build/react/
      - mkdir -p ./node_modules # 创建node依赖目录
      - export NODE_MODULES_PATH=`pwd`/node_modules # 构建与缓存目录之间的关联
#      - npm config set registry https://registry.npm.taobao.org # 可以开启淘宝npm的镜像加速
#      - set NODE_OPTIONS=--openssl-legacy-provider
      - npm install # 下载依赖,虽然已经进行了依赖的缓存,但是一旦有新的依赖加入,缓存中没有则无法构建,所以还需要install一下
      - npm run build # 开始构建产物
      - mkdir -p /app/build/react # 创建存放产物的映射目录
      - cp -r build /app/build/react # 将打包好之后的内容放入的对应的目录中


  - name: build-docker # 制作docker镜像
    image: docker # 使用官方docker镜像
    volumes: # 将容器内目录挂载到宿主机
      - name: build
        path: /app/build
      - name: docker # 挂载宿主机的docker
        path: /var/run/docker.sock 
      - name: config
        path: /config
    environment: # 获取到密文的docker用户名和密码
      DOCKER_USERNAME:
        from_secret: docker_username
      DOCKER_PASSWORD:
        from_secret: docker_password
      REGISTRY:
        from_secret: registry
      REGISTRY_NAMESPACE:
        from_secret: registry_namespace
    commands: # 定义在Docker容器中执行的shell命令
      - cd /app/build/react/
      - cat Dockerfile
      # 将一下文件中的密文信息替换成对应的内容
      - sed -i 's/$REGISTRY/'"$REGISTRY"'/' deployment.yml
      - sed -i 's/$REGISTRY_NAMESPACE/'"$REGISTRY_NAMESPACE"'/' deployment.yml
      - sed -i 's/$DRONE_REPO_NAME/'"$DRONE_REPO_NAME"'/' deployment.yml
      - sed -i 's/$DRONE_COMMIT/'"$DRONE_COMMIT"'/' deployment.yml
      # docker登录,不能在脚本中登录,并且不能使用docker login -u -p
      - echo $DOCKER_PASSWORD | docker login $REGISTRY --username $DOCKER_USERNAME --password-stdin
      - chmod +x docker.sh
      - sh docker.sh # 运行docker打包脚本
      # 执行完脚本删除本次制作的docker镜像,避免多次后当前runner空间不足
      - docker rmi -f $(docker images | grep $DRONE_REPO_NAME | awk '{print $3}')

  - name: drone-rancher # rancher运行
    image: registry.cn-hangzhou.aliyuncs.com/claywang/kubectl #阿里云的kubectl镜像,里面包含kubectl命令行工具
    volumes: # 将容器内目录挂载到宿主机
      - name: build
        path: /app/build # 将应用打包好的Jar和执行脚本挂载出来
      - name: config
        path: /app/config # 将kubectl 配置文件挂载出来
    commands: # 定义在Docker容器中执行的shell命令
      - cd /app/build/react/
      # 将deployment中定义的变量替换为drone中的内置变量
      - cat deployment.yml
      # 通过kubectl指令运行deployment.yml,并指定授权文件kubectl_conf.yml
      - kubectl apply -f deployment.yml -n dev --kubeconfig=/app/config/kubectl_conf.yml


volumes:
  - name: build
    host:
      path: /home/build
  - name: cache
    host:
      path: /var/lib/npm/cache
  - name: config # k8s对接的配置文件
    host:
      path: /.kube/config
  - name: maven-cache # maven的缓存文件
    host:
      path: /home/data/maven/cache
  - name: docker # 宿主机中的docker
    host:
      path: /var/run/docker.sock