一 背景
利用gitlab ci实现基础设施编排自动化,用户后续针对基础设施的管理使用gitlab完成,提交基础设施变更后,会出发pr进行gitlab ci流水线执行,从而实现基础设施devops流程。
二 流程架构
2.1 架构图
2.2 流程
运维研发编写目标云的基于terraform的资源清单文件,同事项目内管理gitlab ci流程,在k8s不同ns下注册有对应的runner,当在不同分支下可以触发不同ns下的ci流程。
- 开发或运维人员提交代码。
- 部署在对应名称空间下的runner执行流程,创建运行单个stage的pod来运行terraform对应命令,例如init/fmt/play/apply等。
- 如果要对云上资源进行变更,修改代码,再次提交pr,出发更新流水线。
- 如果需要销毁,根据ci文件配置提交build为destroy,触发云上销毁动作。
三 预置条件
- gitlab 服务器
- 注册有项目的gitlab-runner
- k8s集群
- 腾讯云ak账号
四 配置
4.1 gitlab ci配置
4.1.1 .gitlab.yaml
variables: # phase: build|destroy phase: destroy # proxy: http://squiduser:xxzx789@43.134.199.162:3128 # proxy: http://squiduser:xxzx789@43.154.230.17:3128 region: "ap-guangzhou" plan_json: plan.json backend_conf: "backend_oss.conf" # before_script: # - apk add --no-cache curl git jq - apk add --no-cache jq - export http_proxy=${squid_proxy} - export https_proxy=${squid_proxy} - export tencentcloud_secret_key=${tencentcloud_secret_key} - export tencentcloud_secret_id=${tencentcloud_secret_id} - export tf_registry_client_timeout=120000 - export checkpoint_timeout=500000 - export tf_registry_discovery_retry=5 - alias convert_report="jq -r '([.resource_changes[]?.change.actions?]|flatten)|{\"create\":(map(select(.==\"create\"))|length),\"update\":(map(select(.==\"update\"))|length),\"delete\":(map(select(.==\"delete\"))|length)}'" # 配置缓存 cache: paths: - ${ci_project_dir}/.terraform/* stages: - init - validate - plan - deploy init: image: name: hashicorp/terraform:0.14.0 entrypoint: [""] stage: init retry: max: 2 when: - script_failure tags: - gitlab-runner-k8s-new script: - terraform version - terraform init -backend-config=${backend_conf} only: - dev validate: image: name: hashicorp/terraform:0.14.0 entrypoint: [""] stage: validate tags: - gitlab-runner-k8s-new retry: 2 script: - terraform init -backend-config=${backend_conf} - terraform validate - terraform fmt -check -recursive || echo 0 cache: paths: - ${ci_project_dir}/.terraform/* policy: pull allow_failure: true plan: image: name: hashicorp/terraform:0.14.0 entrypoint: [""] stage: plan retry: 2 tags: - gitlab-runner-k8s-new artifacts: paths: - plan.bin - app_config.zip expire_in: 2 week script: - terraform init -backend-config=${backend_conf} - terraform plan -input=false -out=plan.bin -var region=${region} - terraform show --json "plan.bin" | convert_report > ${plan_json} - cat ${plan_json} only: variables: - $phase == "build" apply: image: name: hashicorp/terraform:0.14.0 entrypoint: [""] when: manual stage: deploy retry: 2 tags: - gitlab-runner-k8s-new script: - terraform init -backend-config=${backend_conf} - terraform apply -auto-approve -input=false plan.bin only: variables: - $phase == "build" environment: name: snunv destroy: image: name: hashicorp/terraform:0.14.0 entrypoint: [""] stage: deploy retry: 2 tags: - gitlab-runner-k8s-new script: - terraform init -backend-config=${backend_conf} - terraform destroy -auto-approve -var region=${region} only: variables: - $phase == "destroy"
4.1.2 环境配置
利用gitlab ci/cd的environment进行环境管理。
4.2 terraform资源
provider "tencentcloud" { region = var.region } terraform { required_providers { tencentcloud = { source = "registry.terraform.io/tencentcloudstack/tencentcloud" version = ">=1.61.5" } } backend "cos" {} } # 输入变量 variable "region" { type = string } # 再次仅为一个查询示例 data "tencentcloud_instances" "cvm" { } # 输出 output "result" { value = { cvm_result = { for k, v in data.tencentcloud_instances.cvm : k => v }, count = data.tencentcloud_instances.cvm.instance_list[*] } }
为了terraform后端backend安全,将其存储为单独文件,可不同分支或环境进行修改
region = "ap-beijing" bucket = "tfproject-1253329830" prefix = "samxxxxitlab/dexxxxxt"
五 测试
- init
- validate
- plan
- 手动应用apply
查看应用创建出的vpc
- 制品下载
- 销毁
修改gitlabci文件,销毁
六 注意事项
- 需要k8s集群配置pv存储卷来实现跨stage的任务cache。
- 使用gitlab ci 环境管理来对执行ci/cd的人员隐藏密钥信息。
- 后期可以使用gitlab 来进行变量管理。
本文仅实现简单的terraform + gitlab ci 基础设施编排集成,未将gitlab ci的配置文件进行抽离模版化,未与ansible进行集成实施配置管理。
以上就是terraform集成简单gitlab ci方案详解的详细内容,更多关于terraform集成gitlab ci的资料请关注其它相关文章!