81bc4135e96bdaee5c6055f4f97dbbd1308c7997
[oom.git] / kubernetes / helm / plugins / deploy / deploy.sh
1 #!/bin/bash
2
3 usage() {
4 cat << EOF
5 Install (or upgrade) an umbrella Helm Chart, and its subcharts, as separate Helm Releases
6
7 The umbrella Helm Chart is broken apart into a parent release and subchart releases.
8 Subcharts the are disabled (<chart>.enabled=false) will not be installed or upgraded.
9 All releases are grouped and deployed within the same namespace.
10
11
12 The deploy arguments must be a release and chart. The chart
13 argument can be either: a chart reference('stable/onap'), a path to a chart directory,
14 a packaged chart, or a fully qualified URL. For chart references, the latest
15 version will be specified unless the '--version' flag is set.
16
17 To override values in a chart, use either the '--values' flag and pass in a file
18 or use the '--set' flag and pass configuration from the command line, to force string
19 values, use '--set-string'.
20
21 You can specify the '--values'/'-f' flag multiple times. The priority will be given to the
22 last (right-most) file specified. For example, if both myvalues.yaml and override.yaml
23 contained a key called 'Test', the value set in override.yaml would take precedence:
24
25     $ helm deploy demo ./onap --namespace onap -f openstack.yaml -f overrides.yaml
26
27 You can specify the '--set' flag multiple times. The priority will be given to the
28 last (right-most) set specified. For example, if both 'bar' and 'newbar' values are
29 set for a key called 'foo', the 'newbar' value would take precedence:
30
31     $ helm deploy demo local/onap --namespace onap -f overrides.yaml --set log.enabled=false --set vid.enabled=false
32
33 Usage:
34   helm deploy [RELEASE] [CHART] [flags]
35
36 Flags:
37       --namespace string         namespace to install the release into. Defaults to the current kube config namespace.
38       --set stringArray          set values on the command line (can specify multiple or separate values with commas: key1=val1,key2=val2)
39       --set-string stringArray   set STRING values on the command line (can specify multiple or separate values with commas: key1=val1,key2=val2)
40   -f, --values valueFiles        specify values in a YAML file or a URL(can specify multiple) (default [])
41       --verbose                  enables full helm install/upgrade output during deploy
42       --set-last-applied         set the last-applied-configuration annotation on all objects.This annotation is required to restore services using Ark/Veloro backup restore.
43 EOF
44 }
45
46 generate_overrides() {
47   SUBCHART_NAMES=($(cat $COMPUTED_OVERRIDES | grep -v '^\s\s'))
48
49   for index in "${!SUBCHART_NAMES[@]}"; do
50     START=${SUBCHART_NAMES[index]}
51     END=${SUBCHART_NAMES[index+1]}
52     if [ "$START" = "global:" ]; then
53       echo "global:" > $GLOBAL_OVERRIDES
54       cat $COMPUTED_OVERRIDES | sed '/common:/,/consul:/d' \
55         | sed -n '/^'"$START"'/,/'log:'/p' | sed '1d;$d' >> $GLOBAL_OVERRIDES
56     else
57       SUBCHART_DIR="$CACHE_SUBCHART_DIR/$(echo "$START" |cut -d':' -f1)"
58       if [ -d "$SUBCHART_DIR" ]; then
59         if [ -z "$END" ]; then
60           cat $COMPUTED_OVERRIDES | sed -n '/^'"$START"'/,/'"$END"'/p' \
61             | sed '1d;$d' | cut -c3- > $SUBCHART_DIR/subchart-overrides.yaml
62         else
63           cat $COMPUTED_OVERRIDES | sed -n '/^'"$START"'/,/^'"$END"'/p' \
64             | sed '1d;$d' | cut -c3- > $SUBCHART_DIR/subchart-overrides.yaml
65         fi
66       fi
67     fi
68   done
69 }
70 resolve_deploy_flags() {
71   flags=($1)
72   n=${#flags[*]}
73   i=0 ; while [ "$i" -lt "$n" ]; do
74     PARAM=${flags[i]}
75     if [ "$PARAM" = "-f" ] || \
76        [ "$PARAM" = "--values" ] || \
77        [ "$PARAM" = "--set" ] || \
78        [ "$PARAM" = "--set-string" ] || \
79        [ "$PARAM" = "--version" ]; then
80        # skip param and its value
81        i=$((i + 1))
82     else
83       DEPLOY_FLAGS="$DEPLOY_FLAGS $PARAM"
84     fi
85     i=$((i+1))
86   done
87   echo "$DEPLOY_FLAGS"
88 }
89
90
91 check_for_dep() {
92     try=0
93     retries=30
94     until (kubectl get deployment -n $RELEASE | grep -P "\b$2\b") &>/dev/null; do
95         (( ++try > retries )) && exit 1
96         echo "$1 not found. Retry $try/$retries"
97         sleep 5
98     done
99     echo "$1 found. Waiting for pod intialisation"
100     sleep 15
101 }
102
103
104 deploy() {
105   # validate params
106   if [ -z "$1" ] || [ -z "$2" ]; then
107     usage
108     exit 1
109   fi
110
111   RELEASE=$1
112   CHART_URL=$2
113   FLAGS=$(echo ${@} | sed 's/^ *[^ ]* *[^ ]* *//')
114   CHART_REPO="$(echo "$CHART_URL" | cut -d'/' -f1)"
115   CHART_NAME="$(echo "$CHART_URL" | cut -d'/' -f2)"
116
117   CACHE_DIR=~/.local/share/helm/plugins/deploy/cache
118   echo "Use cache dir: $CACHE_DIR"
119   CHART_DIR=$CACHE_DIR/$CHART_NAME
120   CACHE_SUBCHART_DIR=$CHART_DIR-subcharts
121   LOG_DIR=$CHART_DIR/logs
122
123   # determine if verbose output is enabled
124   VERBOSE="false"
125   if expr "$FLAGS" : ".*--verbose.*" ; then
126     FLAGS="$(echo $FLAGS| sed -n 's/--verbose//p')"
127     VERBOSE="true"
128   fi
129   # determine if delay for deployment is enabled
130   DELAY="false"
131   if expr "$FLAGS" : ".*--delay.*" ; then
132     FLAGS="$(echo $FLAGS| sed -n 's/--delay//p')"
133     DELAY="true"
134   fi
135   # determine if set-last-applied flag is enabled
136   SET_LAST_APPLIED="false"
137   if expr "$FLAGS" : ".*--set-last-applied.*" ; then
138     FLAGS="$(echo $FLAGS| sed -n 's/--set-last-applied//p')"
139     SET_LAST_APPLIED="true"
140   fi
141   if expr "$FLAGS" : ".*--dry-run.*" ; then
142     VERBOSE="true"
143     FLAGS="$FLAGS --debug"
144   fi
145
146   # should pass all flags instead
147   NAMESPACE="$(echo $FLAGS | sed -n 's/.*\(namespace\).\s*/\1/p' | cut -c10- | cut -d' ' -f1)"
148
149   VERSION="$(echo $FLAGS | sed -n 's/.*\(version\).\s*/\1/p' | cut -c8- | cut -d' ' -f1)"
150
151   if [ ! -z $VERSION ]; then
152      VERSION="--version $VERSION"
153   fi
154
155   # Remove all override values passed in as arguments. These will be used during dry run
156   # to resolve computed override values. Remaining flags will be passed on during
157   # actual upgrade/install of parent and subcharts.
158   DEPLOY_FLAGS=$(resolve_deploy_flags "$FLAGS")
159
160   # determine if upgrading individual subchart or entire parent + subcharts
161   SUBCHART_RELEASE="$(echo "$RELEASE" |cut -d'-' -f2)"
162   # update specified subchart without parent
163   RELEASE="$(echo "$RELEASE" |cut -d'-' -f1)"
164   if [ "$SUBCHART_RELEASE" = "$RELEASE" ]; then
165     SUBCHART_RELEASE=
166   fi
167
168   # clear previously cached charts
169   rm -rf $CACHE_DIR
170
171   # fetch umbrella chart (parent chart containing subcharts)
172   if [ -d "$CHART_URL" ]; then
173     mkdir -p $CHART_DIR
174     cp -R $CHART_URL/* $CHART_DIR/
175
176     charts=$CHART_DIR/charts/*
177     for subchart in $charts ; do
178       tar xzf ${subchart} -C $CHART_DIR/charts/
179     done
180     rm -rf $CHART_DIR/charts/*.tgz
181   else
182     echo "fetching $CHART_URL"
183     helm fetch $CHART_URL --untar --untardir $CACHE_DIR $VERSION
184   fi
185
186   # create log driectory
187   mkdir -p $LOG_DIR
188
189   # move out subcharts to process separately
190   mkdir -p $CACHE_SUBCHART_DIR
191   mv $CHART_DIR/charts/* $CACHE_SUBCHART_DIR/
192   # temp hack - parent chart needs common subchart
193   mv $CACHE_SUBCHART_DIR/common $CHART_DIR/charts/
194
195  # disable dependencies
196   rm $CHART_DIR/Chart.lock
197   sed -n '1,/dependencies:/p;/description:/,$p' $CHART_DIR/Chart.yaml | grep -v dependencies > $CHART_DIR/deploy_Chart.yaml
198   mv $CHART_DIR/Chart.yaml $CHART_DIR/Chart.deploy
199   mv $CHART_DIR/deploy_Chart.yaml $CHART_DIR/Chart.yaml
200
201   # compute overrides for parent and all subcharts
202   COMPUTED_OVERRIDES=$CACHE_DIR/$CHART_NAME/computed-overrides.yaml
203   helm upgrade -i $RELEASE $CHART_DIR $FLAGS --dry-run --debug \
204    | sed -n '/COMPUTED VALUES:/,/HOOKS:/p' | sed '1d;$d' > $COMPUTED_OVERRIDES
205
206   # extract global overrides to apply to parent and all subcharts
207   GLOBAL_OVERRIDES=$CHART_DIR/global-overrides.yaml
208   generate_overrides $COMPUTED_OVERRIDES $GLOBAL_OVERRIDES
209
210   # upgrade/install parent chart first
211   if [ -z "$SUBCHART_RELEASE" ]; then
212     LOG_FILE=$LOG_DIR/${RELEASE}.log
213     :> $LOG_FILE
214
215     helm upgrade -i $RELEASE $CHART_DIR $DEPLOY_FLAGS -f $COMPUTED_OVERRIDES \
216      > $LOG_FILE.log 2>&1
217
218     if [ "$VERBOSE" = "true" ]; then
219       cat $LOG_FILE
220     else
221       echo "release \"$RELEASE\" deployed"
222     fi
223     # Add annotation last-applied-configuration if set-last-applied flag is set
224     if [ "$SET_LAST_APPLIED" = "true" ]; then
225       helm get manifest ${RELEASE} \
226       | kubectl apply set-last-applied --create-annotation -n onap -f - \
227       > $LOG_FILE.log 2>&1
228     fi
229   fi
230
231   # upgrade/install each "enabled" subchart
232   cd $CACHE_SUBCHART_DIR/
233   #“helm ls” is an expensive command in that it can take a long time to execute.
234   #So cache the results to prevent repeated execution.
235   ALL_HELM_RELEASES=$(helm ls -q)
236
237   #Deploy the srtimzi-kafka chart in advance. Dependent charts require the entity-operator
238   #for management of the strimzi crds
239   helm upgrade -i "${RELEASE}-strimzi" $CACHE_SUBCHART_DIR/strimzi
240   echo "waiting for ${RELEASE}-strimzi-entity-operator to be deployed"
241   check_for_dep ${RELEASE}-strimzi-entity-operator
242
243   for subchart in * ; do
244     SUBCHART_OVERRIDES=$CACHE_SUBCHART_DIR/$subchart/subchart-overrides.yaml
245
246     SUBCHART_ENABLED=0
247     if [ -f $SUBCHART_OVERRIDES ]; then
248       SUBCHART_ENABLED=$(cat $SUBCHART_OVERRIDES | grep -c "^enabled: true")
249     fi
250
251     if [ $SUBCHART_ENABLED -eq 1 ]; then
252       if [ -z "$SUBCHART_RELEASE" ] || [ "$SUBCHART_RELEASE" = "$subchart" ]; then
253         LOG_FILE=$LOG_DIR/"${RELEASE}-${subchart}".log
254         :> $LOG_FILE
255
256         helm upgrade -i "${RELEASE}-${subchart}" $CACHE_SUBCHART_DIR/$subchart \
257          $DEPLOY_FLAGS -f $GLOBAL_OVERRIDES -f $SUBCHART_OVERRIDES \
258          > $LOG_FILE 2>&1
259
260         if [ "$VERBOSE" = "true" ]; then
261           cat $LOG_FILE
262         else
263           echo "release \"${RELEASE}-${subchart}\" deployed"
264         fi
265         # Add annotation last-applied-configuration if set-last-applied flag is set
266         if [ "$SET_LAST_APPLIED" = "true" ]; then
267           helm get manifest "${RELEASE}-${subchart}" \
268           | kubectl apply set-last-applied --create-annotation -n onap -f - \
269           > $LOG_FILE.log 2>&1
270         fi
271       fi
272       if [ "$DELAY" = "true" ]; then
273         echo sleep 3m
274         sleep 180
275       fi
276     else
277       array=($(echo "$ALL_HELM_RELEASES" | grep "${RELEASE}-${subchart}"))
278       n=${#array[*]}
279       for i in $(seq $(($n-1)) -1 0); do
280         helm del "${array[i]}"
281       done
282     fi
283   done
284
285   # report on success/failures of installs/upgrades
286   helm ls --all-namespaces | grep -i FAILED | grep $RELEASE
287 }
288 HELM_VER=$(helm version --template "{{.Version}}")
289 echo $HELM_VER
290
291 case "${1:-"help"}" in
292   "help")
293     usage
294     ;;
295   "--help")
296     usage
297     ;;
298   "-h")
299     usage
300     ;;
301   *)
302     deploy $1 $2 $(echo ${@} | sed 's/^ *[^ ]* *[^ ]* *//')
303     ;;
304 esac
305
306 exit 0