deployment/heat/onap-oom/rancher_vm_entrypoint.sh

   1 #!/bin/bash -x
   2 #
   3 # Copyright 2018 Huawei Technologies Co., Ltd.
   4 #
   5 # Licensed under the Apache License, Version 2.0 (the "License");
   6 # you may not use this file except in compliance with the License.
   7 # You may obtain a copy of the License at
   8 #
   9 #     http://www.apache.org/licenses/LICENSE-2.0
  10 #
  11
  12 printenv
  13
  14 mkdir -p /opt/config
  15 echo "__rancher_ip_addr__" > /opt/config/rancher_ip_addr.txt
  16 echo "__k8s_vm_ips__" > /opt/config/k8s_vm_ips.txt
  17 echo "__oam_network_id__" > /opt/config/oam_network_id.txt
  18 echo "__oam_subnet_id__" > /opt/config/oam_subnet_id.txt
  19 echo "__gerrit_branch__" > /opt/config/gerrit_branch.txt
  20 echo "__gerrit_refspec__" > /opt/config/gerrit_refspec.txt
  21 echo "__docker_manifest__" > /opt/config/docker_manifest.txt
  22
  23 cat <<EOF > /opt/config/integration-override.yaml
  24 __integration_override_yaml__
  25 EOF
  26 sed -i 's/\_\_oam_network_id__/__oam_network_id__/g' /opt/config/integration-override.yaml
  27 sed -i 's/\_\_oam_subnet_id__/__oam_subnet_id__/g' /opt/config/integration-override.yaml
  28 sed -i 's/\_\_k8s_1_vm_ip__/__k8s_1_vm_ip__/g' /opt/config/integration-override.yaml
  29 cp /opt/config/integration-override.yaml /root
  30
  31 echo `hostname -I` `hostname` >> /etc/hosts
  32 mkdir -p /etc/docker
  33 if [ ! -z "__docker_proxy__" ]; then
  34     cat > /etc/docker/daemon.json <<EOF
  35 {
  36   "insecure-registries" : ["__docker_proxy__"]
  37 }
  38 EOF
  39 fi
  40 if [ ! -z "__apt_proxy__" ]; then
  41     cat > /etc/apt/apt.conf.d/30proxy<<EOF
  42 Acquire::http { Proxy "http://__apt_proxy__"; };
  43 Acquire::https::Proxy "DIRECT";
  44 EOF
  45 fi
  46 apt-get -y update
  47 apt-get -y install linux-image-extra-$(uname -r) jq make nfs-kernel-server moreutils
  48
  49
  50 # use RAM disk for /dockerdata-nfs for testing
  51 echo "tmpfs /dockerdata-nfs tmpfs noatime 1 2" >> /etc/fstab
  52 mkdir -pv /dockerdata-nfs
  53 mount /dockerdata-nfs
  54
  55 # version control the persistence volume to see what's happening
  56 chmod 777 /dockerdata-nfs/
  57 chown nobody:nogroup /dockerdata-nfs/
  58 cd /dockerdata-nfs/
  59 git init
  60 git config user.email "root@onap"
  61 git config user.name "root"
  62 git add -A
  63 git commit -m "initial commit"
  64
  65 # export NFS mount
  66 NFS_EXP=""
  67 for K8S_VM_IP in $(tr -d ',[]' < /opt/config/k8s_vm_ips.txt); do
  68     NFS_EXP+="$K8S_VM_IP(rw,fsid=1,sync,no_root_squash,no_subtree_check) "
  69 done
  70 echo "/dockerdata-nfs $NFS_EXP" | tee /etc/exports
  71
  72
  73 exportfs -a
  74 systemctl restart nfs-kernel-server
  75
  76 cd ~
  77
  78 # install docker 17.03
  79 curl -s https://releases.rancher.com/install-docker/17.03.sh | sh
  80 usermod -aG docker ubuntu
  81
  82 docker run --restart unless-stopped -d -p 8080:8080  -e CATTLE_BOOTSTRAP_REQUIRED_IMAGE=__docker_proxy__/rancher/agent:v1.2.9 __docker_proxy__/rancher/server:v1.6.14
  83
  84 # install kubernetes 1.8.10
  85 curl -s -LO https://storage.googleapis.com/kubernetes-release/release/v1.8.10/bin/linux/amd64/kubectl
  86 chmod +x ./kubectl
  87 sudo mv ./kubectl /usr/local/bin/kubectl
  88 mkdir ~/.kube
  89
  90 # install helm
  91 wget -q http://storage.googleapis.com/kubernetes-helm/helm-v2.8.2-linux-amd64.tar.gz
  92 tar -zxvf helm-v2.8.2-linux-amd64.tar.gz
  93 sudo mv linux-amd64/helm /usr/local/bin/helm
  94
  95 echo export RANCHER_IP=__rancher_ip_addr__ > api-keys-rc
  96 source api-keys-rc
  97
  98 sleep 50
  99 until curl -s -o projects.json -H "Accept: application/json" http://$RANCHER_IP:8080/v2-beta/projects; do
 100     sleep 10
 101 done
 102 OLD_PID=$(jq -r '.data[0].id' projects.json)
 103
 104 curl -s -H "Accept: application/json" -H "Content-Type: application/json" -d '{"accountId":"1a1"}' http://$RANCHER_IP:8080/v2-beta/apikeys > apikeys.json
 105 echo export RANCHER_ACCESS_KEY=`jq -r '.publicValue' apikeys.json` >> api-keys-rc
 106 echo export RANCHER_SECRET_KEY=`jq -r '.secretValue' apikeys.json` >> api-keys-rc
 107 source api-keys-rc
 108
 109
 110 curl -u "${RANCHER_ACCESS_KEY}:${RANCHER_SECRET_KEY}" -X PUT -H 'Accept: application/json' -H 'Content-Type: application/json' -d '{"id":"registry.default","type":"activeSetting","baseType":"setting","name":"registry.default","activeValue":"__docker_proxy__","inDb":true,"source":"Database","value":"__docker_proxy__"}'  http://$RANCHER_IP:8080/v2-beta/settings/registry.default
 111
 112 curl -s -u "${RANCHER_ACCESS_KEY}:${RANCHER_SECRET_KEY}" -X DELETE -H 'Content-Type: application/json' "http://$RANCHER_IP:8080/v2-beta/projects/$OLD_PID"
 113
 114 until [ ! -z "$TEMPLATE_ID" ] && [ "$TEMPLATE_ID" != "null" ]; do
 115     sleep 5
 116     curl -s -H "Accept: application/json" http://$RANCHER_IP:8080/v2-beta/projectTemplates?name=Kubernetes > projectTemplatesKubernetes.json
 117     TEMPLATE_ID=$(jq -r '.data[0].id' projectTemplatesKubernetes.json)
 118 done
 119
 120 curl -s -u "${RANCHER_ACCESS_KEY}:${RANCHER_SECRET_KEY}" -X POST -H 'Content-Type: application/json' -d '{ "name":"oom", "projectTemplateId":"'$TEMPLATE_ID'" }' "http://$RANCHER_IP:8080/v2-beta/projects" > project.json
 121 PID=`jq -r '.id' project.json`
 122 echo export RANCHER_URL=http://$RANCHER_IP:8080/v1/projects/$PID >> api-keys-rc
 123 source api-keys-rc
 124
 125 until [ $(jq -r '.state' project.json) == "active" ]; do
 126     sleep 5
 127     curl -s -H "Accept: application/json" http://$RANCHER_IP:8080/v1/projects/$PID > project.json
 128 done
 129
 130
 131 curl -s -u $RANCHER_ACCESS_KEY:$RANCHER_SECRET_KEY -X POST -H 'Accept: application/json' -H 'Content-Type: application/json' -d '{"name":"docker-proxy", "serverAddress":"__docker_proxy__"}' $RANCHER_URL/registries > registry.json
 132 RID=$(jq -r '.id' registry.json)
 133
 134
 135 curl -u "${RANCHER_ACCESS_KEY}:${RANCHER_SECRET_KEY}" -X POST -H 'Accept: application/json' -H 'Content-Type: application/json' -d '{"publicValue":"docker", "registryId":"'$RID'", "secretValue":"docker", "type":"registryCredential"}' "http://$RANCHER_IP:8080/v2-beta/projects/$PID/registrycredential"
 136
 137
 138
 139 TID=$(curl -s -X POST -H "Accept: application/json" -H "Content-Type: application/json" http://$RANCHER_IP:8080/v1/projects/$PID/registrationTokens | jq -r '.id')
 140 touch token.json
 141 while [ $(jq -r .command token.json | wc -c) -lt 10 ]; do
 142     sleep 5
 143     curl -s -X GET -H "Accept: application/json" http://$RANCHER_IP:8080/v1/projects/$PID/registrationToken/$TID > token.json
 144 done
 145 jq -r .command token.json > rancher_agent_cmd.sh
 146 chmod +x rancher_agent_cmd.sh
 147 cp rancher_agent_cmd.sh /dockerdata-nfs
 148 cd /dockerdata-nfs
 149 git add -A
 150 git commit -a -m "Add rancher agent command file"
 151 cd ~
 152
 153
 154 KUBETOKEN=$(echo -n 'Basic '$(echo -n "$RANCHER_ACCESS_KEY:$RANCHER_SECRET_KEY" | base64 -w 0) | base64 -w 0)
 155
 156 # create .kube/config
 157 cat > ~/.kube/config <<EOF
 158 apiVersion: v1
 159 kind: Config
 160 clusters:
 161 - cluster:
 162     api-version: v1
 163     insecure-skip-tls-verify: true
 164     server: "https://$RANCHER_IP:8080/r/projects/$PID/kubernetes:6443"
 165   name: "oom"
 166 contexts:
 167 - context:
 168     cluster: "oom"
 169     user: "oom"
 170   name: "oom"
 171 current-context: "oom"
 172 users:
 173 - name: "oom"
 174   user:
 175     token: "$KUBETOKEN"
 176 EOF
 177
 178 export KUBECONFIG=/root/.kube/config
 179 kubectl config view
 180
 181 # wait for kubernetes to initialze
 182 sleep 100
 183 until [ $(kubectl get pods --namespace kube-system | tail -n +2 | grep -c Running) -ge 6 ]; do
 184     sleep 10
 185 done
 186
 187
 188 # Install using OOM
 189 export HOME=/root
 190
 191 # update and initialize git
 192 apt-get -y install git
 193 git config --global user.email root@rancher
 194 git config --global user.name root@rancher
 195 git config --global log.decorate auto
 196
 197 # Clone OOM:
 198 cd ~
 199 git clone -b master https://gerrit.onap.org/r/oom
 200 cd oom
 201 git log -1
 202 git tag -a "deploy0" -m "initial deployment"
 203 git checkout -b workarounds
 204
 205 # Clone integration
 206 cd ~
 207 git clone -b __gerrit_branch__ https://gerrit.onap.org/r/integration
 208 cd integration
 209 git fetch https://gerrit.onap.org/r/integration __gerrit_refspec__
 210 git checkout FETCH_HEAD
 211
 212 cd version-manifest/src/main/scripts
 213 ./update-oom-image-versions.sh ../resources/__docker_manifest__ ~/oom/
 214
 215 cd ~/oom
 216 git diff
 217
 218
 219 # Run ONAP:
 220 cd ~/oom/kubernetes/
 221 helm init --client-only
 222 helm init --upgrade
 223 helm serve &
 224 sleep 3
 225 helm repo add local http://127.0.0.1:8879
 226 helm repo list
 227 make all
 228 helm search -l | grep local
 229 helm install local/onap -n dev --namespace onap -f ~/integration-override.yaml
 230
 231 # Enable auto-completion for kubectl
 232 echo "source <(kubectl completion bash)" >> ~/.bashrc
 233
 234 # Check ONAP status:
 235 sleep 3
 236 kubectl get pods --all-namespaces