Terraform与Kubernetes的体验

背景:

Terraform体验了腾讯云的CVM的基本操作。正常流程要去体验一下其他基础组件的整合比如数据库redis等基础组件,还有现有资源的导入。配置文件的合理配置等等等....先插播一下kubernetes的体验吧......毕竟我主要的工作环境是Kubernetes!也有tke。其实也可以体验下tke的整合?现在先单独体验下原生的kubernetes吧!

Terraform与Kubernetes的体验

1.关于Documentation的快速导读

扫了一眼官方文档https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs。第一眼下去我就找到了我的关注点: Guides(指南,应该包括如何连接kubernetes集群),几个常用的api: apps/v1,core/v1,networking/v1,rbac/v1!

image.png

2.terraform 连接kubernetes集群以及简单操作

1. terraform 连接kubernetes集群初始化相关

1. 指定required_providers

看一眼Guides:

https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/guides/v2-upgrade-guide#using-required_providers-to-test-the-update

首先是插件版本的指定(截至当前:最新文档是2.9.0,但是没有加版本号下载的版本是2.10.0)

image.png

2. terraform连接kubernetes集群的两种方式

参照官方文档:https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/guides/getting-started#provider-setup,看一眼连接terraform kubernetes的两种方式:

  1. kubeconfig path
  2. host and tls证书
image.png

看个人喜好了。我是选择了第一种连接方式!

3. 创建工作目录初始化terraform并顺便创建一个namespace

1. 创建工作目录

[[email protected] ~]# mkdir terraform-k8s
[[email protected] ~]# cd terraform-k8s/

2. 创建provider.tf

[email protected] terraform-k8s# cat provider.tf

terraform {
  required_providers {
    kubernetes = {
      source  = "hashicorp/kubernetes"
      version = ">= 2.10.0"
    }
}  
}
provider "kubernetes" {
  config_path    = "~/.kube/config"
  config_context = "[email protected]"
}

resource "kubernetes_namespace" "zhangpeng" {
  metadata {
    name = "zhangpeng"
  }
}

3. terraform init

[email protected] terraform-k8s]# terraform init
image.png

注意: 官方文档貌似现在最新是2.9.0,但是开始我没有加版本好显示有2.10.0就直接写2.10.0了

4. terraform plan and terraform apply

[[email protected] terraform-k8s]# terraform plan
image.png
image.png

5. 验证namespace的创建

[[email protected] terraform-k8s]# kubectl get ns
image.png

2. terraform 创建一个deployments? and 绑定一个ingress并打印出相关信息?

看了一眼官方文档有点忧伤https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/resources/deployment_v1#import。deployment有两个相关文档deployment and deployment_v1。目测了一眼只有resource下的区别。现在deployment应该都是v1吧?就用个v1的配置文件吧!

image.png

1. 创建一个nginx的deployment应用

参照官方文档。只增加了namespace的限定!

cat nginx.tf

resource "kubernetes_deployment_v1" "example" {
  metadata {
    name = "terraform-example"
    namespace = "zhangpeng"
    labels = {
      test = "MyExampleApp"
    }
  }

  spec {
    replicas = 3

    selector {
      match_labels = {
        test = "MyExampleApp"
      }
    }

    template {
      metadata {
        labels = {
          test = "MyExampleApp"
        }
      }

      spec {
        container {
          image = "nginx:1.21.6"
          name  = "example"

          resources {
            limits = {
              cpu    = "0.5"
              memory = "512Mi"
            }
            requests = {
              cpu    = "250m"
              memory = "50Mi"
            }
          }

          liveness_probe {
            http_get {
              path = "/"
              port = 80

              http_header {
                name  = "X-Custom-Header"
                value = "Awesome"
              }
            }

            initial_delay_seconds = 3
            period_seconds        = 3
          }
        }
      }
    }
  }
}
[[email protected] terraform-k8s]# terraform plan
image.png
[[email protected] terraform-k8s]# terraform apply
image.png

enter a value 输入yes!

[[email protected] terraform-k8s]# kubectl get pods -n zhangpeng

恩这一步等了好久 差不多两分钟具体原因查看livenessProbe initialDelaySeconds periodSeconds相关设置!

[[email protected] terraform-k8s]# kubectl get all -n zhangpeng
NAME                                     READY   STATUS    RESTARTS   AGE
pod/terraform-example-78ff4f86d7-bxfwj   1/1     Running   0          6m26s
pod/terraform-example-78ff4f86d7-vb2p7   1/1     Running   0          6m26s
pod/terraform-example-78ff4f86d7-vqm6b   1/1     Running   0          6m26s

NAME                                READY   UP-TO-DATE   AVAILABLE   AGE
deployment.apps/terraform-example   3/3     3            3           6m26s

NAME                                           DESIRED   CURRENT   READY   AGE
replicaset.apps/terraform-example-78ff4f86d7   3         3         3       6m26s

2. 创建sevice相关配置绑定deployment

service相关文档应该是在core/v1吧?查看一下,搜索栏还是很有用的

image.png

cat service.tf

resource "kubernetes_service" "terraform-example-service" {
  metadata {
    name      = "terraform-example-service"
    namespace = kubernetes_namespace.zhangpeng.metadata.0.name
  }
  spec {
    selector = {
      test = kubernetes_deployment_v1.example.spec.0.template.0.metadata.0.labels.test
    }
    session_affinity = "ClientIP"
    port {
      port        = 80
      target_port = 80
    }
   type = "ClusterIP"
  }
}

注意:标签的匹配:selector的标签,namespace deployment的版本是否带v1。session_affinity还有type都是kubernetes的基础自行脑补!type的三种方式按照自己环境需求自行设置。

terraform plan and terraform apply

[[email protected] terraform-k8s]# terraform plan
[[email protected] terraform-k8s]# terraform apply
jnV1oDA7j7.png
image.png
[[email protected] terraform-k8s]# kubectl get svc -n zhangpeng
NAME                        TYPE        CLUSTER-IP     EXTERNAL-IP   PORT(S)   AGE
terraform-example-service   ClusterIP   172.19.253.9   <none>        80/TCP    30s

3. 创建ingress绑定clusterip

对应官方文档:

https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/resources/ingress_v1

image.png

本人kuberntes环境v1.21.3.ingress使用的traefik代理方式可以使用networking/v1的ingress还有traefik 的ingressroute 还有gateway api?这里懒得去看traefik相关了(traefik貌似也没有官方的。搜到一个1.17版本的非官方的) 直接按照networking/v1的ingress networking/v1的模板去写tf配置文件了:

cat ingress.tf

resource "kubernetes_ingress_v1" "nginx_ingress_test" {
  metadata {
    name = "nginx-ingress-test"
    namespace = kubernetes_namespace.zhangpeng.metadata.0.name
  annotations = {
    "kubernetes.io/ingress.class" = "traefik"
    "traefik.ingress.kubernetes.io/router.entrypoints" = "web"

  }
}

  spec {
    rule {
      host =  "nginx-ingress-test.xxxx.com"
      http {
        path {
          path =  "/"
          backend {
            service {
              name = "terraform-example-service"
              port {
                number = 80
              }
            }
          }
        }
      }
    }

  }
}

强调一下:这里本来想设置pathType,但是设置了就有报错。我想看一下默认的是什么!

terraform plan and terraform apply

[[email protected] terraform-k8s]# terraform plan
[[email protected] terraform-k8s]# terraform apply
image.png

pathType: ImplementationSpecific!抽时间看一下这个 ImplementationSpecific

image.png
image.png

web访问测试一下:

image.png

关于我的ingress traefik 清参照:Kubernetes 1.20.5 安装traefik在腾讯云下的实践

storage这里看了下不太合适去做。rbac也不想太多的演示了!

3. 顺便看一下腾讯云的tke的文档

看了一眼tke相关文档也没有什么太深入想看的,比如cbs快存储 clb整合之类的?

image.png

看了阿里云的也是类似大家都差不多

image.png

总结一下

  1. terraform能完成很多工作,现在的很多主流的平台都能满足
  2. terraform很多时候并不是最优的,不是万能最佳。管理kubernetes反正我觉得就没有用spinnaker等其他的工具简单
  3. 只是提前想体验一下kubernetes的整合。后面terraform还是停留在管理我的基础设施上面.kubernetes管理我还是不会用terraform的

版权声明:
作者:对你无可奈何
链接:https://jkboy.com/archives/17604.html
来源:随风的博客
文章版权归作者所有,未经允许请勿转载。

THE END
分享
二维码
打赏
海报
Terraform与Kubernetes的体验
Terraform体验了腾讯云的CVM的基本操作。正常流程要去体验一下其他基础组件的整合比如数据库redis等基础组件,还有现有资源的导入。配置文件的合理配置等...
<<上一篇
下一篇>>