kubernetes/helm/plugins/deploy/deploy.sh

   1 #!/bin/bash
   2
   3 usage() {
   4 cat << EOF
   5 Install (or upgrade) an umbrella Helm Chart, and its subcharts, as separate Helm Releases
   6
   7 The umbrella Helm Chart is broken apart into a parent release and subchart releases.
   8 Subcharts the are disabled (<chart>.enabled=false) will not be installed or upgraded.
   9 All releases are grouped and deployed within the same namespace.
  10
  11
  12 The deploy arguments must be a release and chart. The chart
  13 argument can be either: a chart reference('stable/onap'), a path to a chart directory,
  14 a packaged chart, or a fully qualified URL. For chart references, the latest
  15 version will be specified unless the '--version' flag is set.
  16
  17 To override values in a chart, use either the '--values' flag and pass in a file
  18 or use the '--set' flag and pass configuration from the command line, to force string
  19 values, use '--set-string'.
  20
  21 You can specify the '--values'/'-f' flag multiple times. The priority will be given to the
  22 last (right-most) file specified. For example, if both myvalues.yaml and override.yaml
  23 contained a key called 'Test', the value set in override.yaml would take precedence:
  24
  25     $ helm deploy demo ./onap --namespace onap -f openstack.yaml -f overrides.yaml
  26
  27 You can specify the '--set' flag multiple times. The priority will be given to the
  28 last (right-most) set specified. For example, if both 'bar' and 'newbar' values are
  29 set for a key called 'foo', the 'newbar' value would take precedence:
  30
  31     $ helm deploy demo local/onap --namespace onap -f overrides.yaml --set log.enabled=false --set vid.enabled=false
  32
  33 Usage:
  34   helm deploy [RELEASE] [CHART] [flags]
  35
  36 Flags:
  37       --namespace string         namespace to install the release into. Defaults to the current kube config namespace.
  38       --set stringArray          set values on the command line (can specify multiple or separate values with commas: key1=val1,key2=val2)
  39       --set-string stringArray   set STRING values on the command line (can specify multiple or separate values with commas: key1=val1,key2=val2)
  40   -f, --values valueFiles        specify values in a YAML file or a URL(can specify multiple) (default [])
  41       --verbose                  enables full helm install/upgrade output during deploy
  42       --set-last-applied         set the last-applied-configuration annotation on all objects.This annotation is required to restore services using Ark/Veloro backup restore.
  43 EOF
  44 }
  45
  46 generate_overrides() {
  47   SUBCHART_NAMES=($(cat $COMPUTED_OVERRIDES | grep -v '^\s\s'))
  48
  49   for index in "${!SUBCHART_NAMES[@]}"; do
  50     START=${SUBCHART_NAMES[index]}
  51     END=${SUBCHART_NAMES[index+1]}
  52     if [ "$START" = "global:" ]; then
  53       echo "global:" > $GLOBAL_OVERRIDES
  54       cat $COMPUTED_OVERRIDES | sed '/common:/,/consul:/d' \
  55         | sed -n '/^'"$START"'/,/'log:'/p' | sed '1d;$d' >> $GLOBAL_OVERRIDES
  56     else
  57       SUBCHART_DIR="$CACHE_SUBCHART_DIR/$(echo "$START" |cut -d':' -f1)"
  58       if [ -d "$SUBCHART_DIR" ]; then
  59         if [ -z "$END" ]; then
  60           cat $COMPUTED_OVERRIDES | sed -n '/^'"$START"'/,/'"$END"'/p' \
  61             | sed '1d;$d' | cut -c3- > $SUBCHART_DIR/subchart-overrides.yaml
  62         else
  63           cat $COMPUTED_OVERRIDES | sed -n '/^'"$START"'/,/^'"$END"'/p' \
  64             | sed '1d;$d' | cut -c3- > $SUBCHART_DIR/subchart-overrides.yaml
  65         fi
  66       fi
  67     fi
  68   done
  69 }
  70 resolve_deploy_flags() {
  71   flags=($1)
  72   n=${#flags[*]}
  73   i=0 ; while [ "$i" -lt "$n" ]; do
  74     PARAM=${flags[i]}
  75     if [ "$PARAM" = "-f" ] || \
  76        [ "$PARAM" = "--values" ] || \
  77        [ "$PARAM" = "--set" ] || \
  78        [ "$PARAM" = "--set-string" ] || \
  79        [ "$PARAM" = "--version" ]; then
  80        # skip param and its value
  81        i=$((i + 1))
  82     else
  83       DEPLOY_FLAGS="$DEPLOY_FLAGS $PARAM"
  84     fi
  85     i=$((i+1))
  86   done
  87   echo "$DEPLOY_FLAGS"
  88 }
  89
  90
  91 check_for_dep() {
  92     try=0
  93     retries=30
  94     until (kubectl get deployment -n $RELEASE | grep -P "\b$1\b") &>/dev/null; do
  95         (( ++try > retries )) && exit 1
  96         echo "$1 not found. Retry $try/$retries"
  97         sleep 5
  98     done
  99     echo "$1 found. Waiting for pod intialisation"
 100     sleep 15
 101 }
 102
 103 deploy_strimzi() {
 104   #Deploy the srtimzi-kafka chart in advance. Dependent charts require the entity-operator
 105   #for management of the strimzi crds
 106   deploy_subchart
 107   echo "waiting for ${RELEASE}-strimzi-entity-operator to be deployed"
 108   check_for_dep ${RELEASE}-strimzi-entity-operator
 109 }
 110
 111 deploy_subchart() {
 112   if [ -z "$SUBCHART_RELEASE" ] || [ "$SUBCHART_RELEASE" = "$subchart" ]; then
 113         LOG_FILE=$LOG_DIR/"${RELEASE}-${subchart}".log
 114         :> $LOG_FILE
 115
 116         helm upgrade -i "${RELEASE}-${subchart}" $CACHE_SUBCHART_DIR/$subchart \
 117          $DEPLOY_FLAGS -f $GLOBAL_OVERRIDES -f $SUBCHART_OVERRIDES \
 118          > $LOG_FILE 2>&1
 119
 120         if [ "$VERBOSE" = "true" ]; then
 121           cat $LOG_FILE
 122         else
 123           echo "release \"${RELEASE}-${subchart}\" deployed"
 124         fi
 125         # Add annotation last-applied-configuration if set-last-applied flag is set
 126         if [ "$SET_LAST_APPLIED" = "true" ]; then
 127           helm get manifest "${RELEASE}-${subchart}" \
 128           | kubectl apply set-last-applied --create-annotation -n onap -f - \
 129           > $LOG_FILE.log 2>&1
 130         fi
 131       fi
 132       if [ "$DELAY" = "true" ]; then
 133         echo sleep 3m
 134         sleep 180
 135       fi
 136 }
 137
 138 deploy() {
 139   # validate params
 140   if [ -z "$1" ] || [ -z "$2" ]; then
 141     usage
 142     exit 1
 143   fi
 144
 145   RELEASE=$1
 146   CHART_URL=$2
 147   FLAGS=$(echo ${@} | sed 's/^ *[^ ]* *[^ ]* *//')
 148   CHART_REPO="$(echo "$CHART_URL" | cut -d'/' -f1)"
 149   CHART_NAME="$(echo "$CHART_URL" | cut -d'/' -f2)"
 150
 151   CACHE_DIR=~/.local/share/helm/plugins/deploy/cache
 152   echo "Use cache dir: $CACHE_DIR"
 153   CHART_DIR=$CACHE_DIR/$CHART_NAME
 154   CACHE_SUBCHART_DIR=$CHART_DIR-subcharts
 155   LOG_DIR=$CHART_DIR/logs
 156
 157   # determine if verbose output is enabled
 158   VERBOSE="false"
 159   if expr "$FLAGS" : ".*--verbose.*" ; then
 160     FLAGS="$(echo $FLAGS| sed -n 's/--verbose//p')"
 161     VERBOSE="true"
 162   fi
 163   # determine if delay for deployment is enabled
 164   DELAY="false"
 165   if expr "$FLAGS" : ".*--delay.*" ; then
 166     FLAGS="$(echo $FLAGS| sed -n 's/--delay//p')"
 167     DELAY="true"
 168   fi
 169   # determine if set-last-applied flag is enabled
 170   SET_LAST_APPLIED="false"
 171   if expr "$FLAGS" : ".*--set-last-applied.*" ; then
 172     FLAGS="$(echo $FLAGS| sed -n 's/--set-last-applied//p')"
 173     SET_LAST_APPLIED="true"
 174   fi
 175   if expr "$FLAGS" : ".*--dry-run.*" ; then
 176     VERBOSE="true"
 177     FLAGS="$FLAGS --debug"
 178   fi
 179
 180   # should pass all flags instead
 181   NAMESPACE="$(echo $FLAGS | sed -n 's/.*\(namespace\).\s*/\1/p' | cut -c10- | cut -d' ' -f1)"
 182
 183   VERSION="$(echo $FLAGS | sed -n 's/.*\(version\).\s*/\1/p' | cut -c8- | cut -d' ' -f1)"
 184
 185   if [ ! -z $VERSION ]; then
 186      VERSION="--version $VERSION"
 187   fi
 188
 189   # Remove all override values passed in as arguments. These will be used during dry run
 190   # to resolve computed override values. Remaining flags will be passed on during
 191   # actual upgrade/install of parent and subcharts.
 192   DEPLOY_FLAGS=$(resolve_deploy_flags "$FLAGS")
 193
 194   # determine if upgrading individual subchart or entire parent + subcharts
 195   SUBCHART_RELEASE="$(echo "$RELEASE" |cut -d'-' -f2)"
 196   # update specified subchart without parent
 197   RELEASE="$(echo "$RELEASE" |cut -d'-' -f1)"
 198   if [ "$SUBCHART_RELEASE" = "$RELEASE" ]; then
 199     SUBCHART_RELEASE=
 200   fi
 201
 202   # clear previously cached charts
 203   rm -rf $CACHE_DIR
 204
 205   # fetch umbrella chart (parent chart containing subcharts)
 206   if [ -d "$CHART_URL" ]; then
 207     mkdir -p $CHART_DIR
 208     cp -R $CHART_URL/* $CHART_DIR/
 209
 210     charts=$CHART_DIR/charts/*
 211     for subchart in $charts ; do
 212       tar xzf ${subchart} -C $CHART_DIR/charts/
 213     done
 214     rm -rf $CHART_DIR/charts/*.tgz
 215   else
 216     echo "fetching $CHART_URL"
 217     helm fetch $CHART_URL --untar --untardir $CACHE_DIR $VERSION
 218   fi
 219
 220   # create log driectory
 221   mkdir -p $LOG_DIR
 222
 223   # move out subcharts to process separately
 224   mkdir -p $CACHE_SUBCHART_DIR
 225   mv $CHART_DIR/charts/* $CACHE_SUBCHART_DIR/
 226   # temp hack - parent chart needs common subchart
 227   mv $CACHE_SUBCHART_DIR/common $CHART_DIR/charts/
 228
 229  # disable dependencies
 230   rm $CHART_DIR/Chart.lock
 231   sed -n '1,/dependencies:/p;/description:/,$p' $CHART_DIR/Chart.yaml | grep -v dependencies > $CHART_DIR/deploy_Chart.yaml
 232   mv $CHART_DIR/Chart.yaml $CHART_DIR/Chart.deploy
 233   mv $CHART_DIR/deploy_Chart.yaml $CHART_DIR/Chart.yaml
 234
 235   # compute overrides for parent and all subcharts
 236   COMPUTED_OVERRIDES=$CACHE_DIR/$CHART_NAME/computed-overrides.yaml
 237   helm upgrade -i $RELEASE $CHART_DIR $FLAGS --dry-run --debug \
 238    | sed -n '/COMPUTED VALUES:/,/HOOKS:/p' | sed '1d;$d' > $COMPUTED_OVERRIDES
 239
 240   # extract global overrides to apply to parent and all subcharts
 241   GLOBAL_OVERRIDES=$CHART_DIR/global-overrides.yaml
 242   generate_overrides $COMPUTED_OVERRIDES $GLOBAL_OVERRIDES
 243
 244   # upgrade/install parent chart first
 245   if [ -z "$SUBCHART_RELEASE" ]; then
 246     LOG_FILE=$LOG_DIR/${RELEASE}.log
 247     :> $LOG_FILE
 248
 249     helm upgrade -i $RELEASE $CHART_DIR $DEPLOY_FLAGS -f $COMPUTED_OVERRIDES \
 250      > $LOG_FILE.log 2>&1
 251
 252     if [ "$VERBOSE" = "true" ]; then
 253       cat $LOG_FILE
 254     else
 255       echo "release \"$RELEASE\" deployed"
 256     fi
 257     # Add annotation last-applied-configuration if set-last-applied flag is set
 258     if [ "$SET_LAST_APPLIED" = "true" ]; then
 259       helm get manifest ${RELEASE} \
 260       | kubectl apply set-last-applied --create-annotation -n onap -f - \
 261       > $LOG_FILE.log 2>&1
 262     fi
 263   fi
 264
 265   # upgrade/install each "enabled" subchart
 266   cd $CACHE_SUBCHART_DIR/
 267   #“helm ls” is an expensive command in that it can take a long time to execute.
 268   #So cache the results to prevent repeated execution.
 269   ALL_HELM_RELEASES=$(helm ls -q)
 270
 271     for subchart in strimzi cassandra mariadb-galera postgres ; do
 272       SUBCHART_OVERRIDES=$CACHE_SUBCHART_DIR/$subchart/subchart-overrides.yaml
 273
 274       SUBCHART_ENABLED=0
 275       if [ -f $SUBCHART_OVERRIDES ]; then
 276         SUBCHART_ENABLED=$(cat $SUBCHART_OVERRIDES | grep -c "^enabled: true")
 277       fi
 278       if [ "${subchart}" = "strimzi" ] && [ $SUBCHART_ENABLED -eq 1 ]; then
 279         deploy_strimzi
 280       fi
 281       # Deploy them at first
 282       if [ $SUBCHART_ENABLED -eq 1 ]; then
 283         deploy_subchart
 284       else
 285         array=($(echo "$ALL_HELM_RELEASES" | grep "${RELEASE}-${subchart}"))
 286         n=${#array[*]}
 287         for i in $(seq $(($n-1)) -1 0); do
 288           helm del "${array[i]}"
 289         done
 290       fi
 291     done
 292
 293     for subchart in * ; do
 294       SUBCHART_OVERRIDES=$CACHE_SUBCHART_DIR/$subchart/subchart-overrides.yaml
 295
 296       SUBCHART_ENABLED=0
 297       if [ -f $SUBCHART_OVERRIDES ]; then
 298         SUBCHART_ENABLED=$(cat $SUBCHART_OVERRIDES | grep -c "^enabled: true")
 299       fi
 300       if [ "${subchart}" = "strimzi" ] || [ "${subchart}" = "cassandra" ] || [ "${subchart}" = "mariadb-galera" ] || [ "${subchart}" = "postgres" ]; then
 301         SUBCHART_ENABLED=0
 302       fi
 303       # Deploy the others
 304       if [ $SUBCHART_ENABLED -eq 1 ]; then
 305         deploy_subchart
 306       else
 307         array=($(echo "$ALL_HELM_RELEASES" | grep "${RELEASE}-${subchart}"))
 308         n=${#array[*]}
 309         for i in $(seq $(($n-1)) -1 0); do
 310           helm del "${array[i]}"
 311         done
 312       fi
 313     done
 314
 315   # report on success/failures of installs/upgrades
 316   helm ls --all-namespaces | grep -i FAILED | grep $RELEASE
 317 }
 318 HELM_VER=$(helm version --template "{{.Version}}")
 319 echo $HELM_VER
 320
 321 case "${1:-"help"}" in
 322   "help")
 323     usage
 324     ;;
 325   "--help")
 326     usage
 327     ;;
 328   "-h")
 329     usage
 330     ;;
 331   *)
 332     deploy $1 $2 $(echo ${@} | sed 's/^ *[^ ]* *[^ ]* *//')
 333     ;;
 334 esac
 335
 336 exit 0