run-csit.sh

   1 #!/bin/bash -x
   2 #
   3 # Copyright 2016-2017 Huawei Technologies Co., Ltd.
   4 # Modification Copyright 2019 © Samsung Electronics Co., Ltd.
   5 #
   6 # Licensed under the Apache License, Version 2.0 (the "License");
   7 # you may not use this file except in compliance with the License.
   8 # You may obtain a copy of the License at
   9 #
  10 #     http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 # Unless required by applicable law or agreed to in writing, software
  13 # distributed under the License is distributed on an "AS IS" BASIS,
  14 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 # See the License for the specific language governing permissions and
  16 # limitations under the License.
  17 #
  18 # $1 project/functionality
  19 # $2 robot options
  20
  21 #
  22 # functions
  23 #
  24
  25 function on_exit(){
  26     rc=$?
  27     if [[ ${WORKSPACE} ]]; then
  28         if [[ ${WORKDIR} ]]; then
  29             rsync -av "$WORKDIR/" "$WORKSPACE/archives/$TESTPLAN"
  30         fi
  31         # Record list of active docker containers
  32         docker ps --format "{{.Image}}" > "$WORKSPACE/archives/$TESTPLAN/_docker-images.log"
  33
  34         # show memory consumption after all docker instances initialized
  35         docker_stats | tee "$WORKSPACE/archives/$TESTPLAN/_sysinfo-2-after-robot.txt"
  36     fi
  37     # Run teardown script plan if it exists
  38     cd "${TESTPLANDIR}"
  39     TEARDOWN="${TESTPLANDIR}/teardown.sh"
  40     if [ -f "${TEARDOWN}" ]; then
  41         echo "Running teardown script ${TEARDOWN}"
  42         source_safely "${TEARDOWN}"
  43     fi
  44     # TODO: do something with the output
  45      exit $rc
  46 }
  47 # ensure that teardown and other finalizing steps are always executed
  48 trap on_exit EXIT
  49
  50 function docker_stats(){
  51     #General memory details
  52     echo "> top -bn1 | head -3"
  53     top -bn1 | head -3
  54     echo
  55
  56     echo "> free -h"
  57     free -h
  58     echo
  59
  60     #Memory details per Docker
  61     echo "> docker ps"
  62     docker ps
  63     echo
  64
  65     echo "> docker stats --no-stream"
  66     docker stats --no-stream
  67     echo
  68 }
  69
  70 # save current set options
  71 function save_set() {
  72     RUN_CSIT_SAVE_SET="$-"
  73     RUN_CSIT_SHELLOPTS="$SHELLOPTS"
  74 }
  75
  76 # load the saved set options
  77 function load_set() {
  78     _setopts="$-"
  79
  80     # bash shellopts
  81     for i in $(echo "$SHELLOPTS" | tr ':' ' ') ; do
  82         set +o ${i}
  83     done
  84     for i in $(echo "$RUN_CSIT_SHELLOPTS" | tr ':' ' ') ; do
  85         set -o ${i}
  86     done
  87
  88     # other options
  89     for i in $(echo "$_setopts" | sed 's/./& /g') ; do
  90         set +${i}
  91     done
  92     set -${RUN_CSIT_SAVE_SET}
  93 }
  94
  95 # set options for quick bailout when error
  96 function harden_set() {
  97     set -xeo pipefail
  98     set +u # enabled it would probably fail too many often
  99 }
 100
 101 # relax set options so the sourced file will not fail
 102 # the responsibility is shifted to the sourced file...
 103 function relax_set() {
 104     set +e
 105     set +o pipefail
 106 }
 107
 108 # wrapper for sourcing a file
 109 function source_safely() {
 110     [ -z "$1" ] && return 1
 111     relax_set
 112     . "$1"
 113     load_set
 114 }
 115
 116 #
 117 # main
 118 #
 119
 120 # set and save options for quick failure
 121 harden_set && save_set
 122
 123 if [ $# -eq 0 ]
 124 then
 125     echo
 126     echo "Usage: $0 plans/<project>/<functionality> [<robot-options>]"
 127     echo
 128     echo "    <project>, <functionality>, <robot-options>:  "
 129     echo "        The same values as for the '{project}-csit-{functionality}' JJB job template."
 130     echo
 131     exit 1
 132 fi
 133
 134 if [ -z "$WORKSPACE" ]; then
 135     export WORKSPACE=$(git rev-parse --show-toplevel)
 136 fi
 137
 138 if [ -f "${WORKSPACE}/${1}/testplan.txt" ]; then
 139     export TESTPLAN="${1}"
 140 else
 141     echo "testplan not found: ${WORKSPACE}/${TESTPLAN}/testplan.txt"
 142     exit 2
 143 fi
 144
 145 export TESTOPTIONS="${2}"
 146
 147 rm -rf "$WORKSPACE/archives/$TESTPLAN"
 148 mkdir -p "$WORKSPACE/archives/$TESTPLAN"
 149
 150 TESTPLANDIR="${WORKSPACE}/${TESTPLAN}"
 151
 152 # Run installation of prerequired libraries
 153 source_safely "${WORKSPACE}/prepare-csit.sh"
 154
 155 # Activate the virtualenv containing all the required libraries installed by prepare-csit.sh
 156 source_safely "${ROBOT_VENV}/bin/activate"
 157
 158 WORKDIR=$(mktemp -d --suffix=-robot-workdir)
 159 cd "${WORKDIR}"
 160
 161 # Add csit scripts to PATH
 162 export PATH="${PATH}:${WORKSPACE}/docker/scripts:${WORKSPACE}/scripts:${ROBOT_VENV}/bin"
 163 export SCRIPTS="${WORKSPACE}/scripts"
 164 export ROBOT_VARIABLES=
 165
 166 # Sign in to nexus3 docker repo
 167 docker login -u docker -p docker nexus3.onap.org:10001
 168
 169 # Run setup script plan if it exists
 170 cd "${TESTPLANDIR}"
 171 SETUP="${TESTPLANDIR}/setup.sh"
 172 if [ -f "${SETUP}" ]; then
 173     echo "Running setup script ${SETUP}"
 174     source_safely "${SETUP}"
 175 fi
 176
 177 # show memory consumption after all docker instances initialized
 178 docker_stats | tee "$WORKSPACE/archives/$TESTPLAN/_sysinfo-1-after-setup.txt"
 179
 180 # Run test plan
 181 cd "$WORKDIR"
 182 echo "Reading the testplan:"
 183 cat "${TESTPLANDIR}/testplan.txt" | egrep -v '(^[[:space:]]*#|^[[:space:]]*$)' | sed "s|^|${WORKSPACE}/tests/|" > testplan.txt
 184 cat testplan.txt
 185 SUITES=$( xargs -a testplan.txt )
 186
 187 echo ROBOT_VARIABLES="${ROBOT_VARIABLES}"
 188 echo "Starting Robot test suites ${SUITES} ..."
 189 relax_set
 190 python -m robot.run -N ${TESTPLAN} -v WORKSPACE:/tmp ${ROBOT_VARIABLES} ${TESTOPTIONS} ${SUITES}
 191 RESULT=$?
 192 load_set
 193 echo "RESULT: $RESULT"
 194 # Note that the final steps are done in on_exit function after this exit!
 195 exit $RESULT