mvn-phase-lib.sh

   1 #!/bin/bash
   2
   3 # ================================================================================
   4 # Copyright (c) 2017 AT&T Intellectual Property. All rights reserved.
   5 # ================================================================================
   6 # Licensed under the Apache License, Version 2.0 (the "License");
   7 # you may not use this file except in compliance with the License.
   8 # You may obtain a copy of the License at
   9 #
  10 #     http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 # Unless required by applicable law or agreed to in writing, software
  13 # distributed under the License is distributed on an "AS IS" BASIS,
  14 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 # See the License for the specific language governing permissions and
  16 # limitations under the License.
  17 # ============LICENSE_END=========================================================
  18 #
  19 # ECOMP is a trademark and service mark of AT&T Intellectual Property.
  20
  21
  22 clean_templated_files()
  23 {
  24   TEMPLATE_FILES=$(find . -name "*-template")
  25   for F in $TEMPLATE_FILES; do
  26     F2=$(echo "$F" | sed 's/-template$//')
  27     rm -f "$F2"
  28   done
  29 }
  30 clean_tox_files()
  31 {
  32   TOX_FILES=$(find . -name ".tox")
  33   TOX_FILES="$TOX_FILES $(find . -name 'venv-tox')"
  34   for F in $TOX_FILES; do
  35     rm -rf "$F"
  36   done
  37 }
  38
  39 expand_templates()
  40 {
  41   # set up env variables, get ready for template resolution
  42   # NOTE: CCSDK artifacts do not distinguish REALESE vs SNAPSHOTs
  43   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
  44   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
  45   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
  46   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
  47
  48   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/releases"
  49   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/snapshots"
  50   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/releases"
  51   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/snapshots"
  52   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/releases"
  53   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/snapshots"
  54
  55   export ONAPTEMPLATE_PYPIURL_org_onap_dcaegen2="${MVN_NEXUSPROXY}/content/sites/pypi"
  56
  57   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_releases="$MVN_DOCKERREGISTRY_DAILY"
  58   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_snapshots="$MVN_DOCKERREGISTRY_DAILY/snapshots"
  59
  60
  61   TEMPLATE_FILES=$(find . -name "*-template")
  62   for F in $TEMPLATE_FILES; do
  63     F2=$(echo "$F" | sed 's/-template$//')
  64     cp "$F" "$F2"
  65     MOD=$(stat --format '%a' "$F")
  66     chmod "$MOD" "$F2"
  67   done
  68
  69
  70   TEMPLATES=$(env |grep ONAPTEMPLATE)
  71   if [ -z "$TEMPLATES" ]; then
  72     return 0
  73   fi
  74
  75   echo "====> Resolving the following temaplate from environment variables "
  76   echo "[$TEMPLATES]"
  77   SELFFILE=$(echo "$0" | rev | cut -f1 -d '/' | rev)
  78   for TEMPLATE in $TEMPLATES; do
  79     KEY=$(echo "$TEMPLATE" | cut -f1 -d'=')
  80     VALUE=$(echo "$TEMPLATE" | cut -f2 -d'=')
  81     VALUE2=$(echo "$TEMPLATE" | cut -f2 -d'=' |sed 's/\//\\\//g')
  82     set +e
  83     FILES=$(grep -rl "$KEY")
  84     set -e
  85
  86     if [ -z "$FILES" ]; then
  87       continue
  88     fi
  89
  90     # assuming FILES is not longer than 2M bytes, the limit for variable value max size on this VM
  91     for F in $FILES; do
  92       if [[ $F == *"$SELFFILE" ]]; then
  93         continue
  94       fi
  95       if [[ "$F" == *-template ]]; then
  96         continue
  97       fi
  98
  99       echo "======> Resolving template $KEY to value $VALUE for file $F"
 100       sed -i "s/{{[[:space:]]*$KEY[[:space:]]*}}/$VALUE2/g" "$F"
 101       #cat "$F"
 102     done
 103
 104     #if [ ! -z "$FILES" ]; then
 105     #   echo "====> Resolving template $VALUE to value $VALUE"
 106     #   #CMD="grep -rl \"$VALUE\" | tr '\n' '\0' | xargs -0 sed -i \"s/{{[[:space:]]*$VALUE[[:space:]]*}}/$VALUE/g\""
 107     #   grep -rl "$KEY" | tr '\n' '\0' | xargs -0 sed -i 's/$KEY/$VALUE2/g'
 108     #   #echo $CMD
 109     #   #eval $CMD
 110     #fi
 111   done
 112   echo "====> Done template reolving"
 113 }
 114
 115
 116 run_tox_test()
 117 {
 118   set -x
 119   CURDIR=$(pwd)
 120   TOXINIS=$(find . -name "tox.ini")
 121   for TOXINI in "${TOXINIS[@]}"; do
 122     DIR=$(echo "$TOXINI" | rev | cut -f2- -d'/' | rev)
 123     cd "${CURDIR}/${DIR}"
 124     rm -rf ./venv-tox ./.tox
 125     virtualenv ./venv-tox
 126     source ./venv-tox/bin/activate
 127     pip install --upgrade pip
 128     pip install --upgrade tox argparse
 129     pip freeze
 130     tox
 131     deactivate
 132     rm -rf ./venv-tox ./.tox
 133   done
 134 }
 135
 136 build_wagons()
 137 {
 138   rm -rf ./*.wgn venv-pkg
 139
 140   SETUPFILES=$(find . -name "setup.py")
 141   for SETUPFILE in $SETUPFILES; do
 142     PLUGIN_DIR=$(echo "$SETUPFILE" |rev | cut -f 2- -d '/' |rev)
 143     PLUGIN_NAME=$(grep 'name' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9a-zA-Z\.]*//g')
 144     PLUGIN_VERSION=$(grep 'version' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9\.]*//g')
 145
 146     echo "In $PLUGIN_DIR, $PLUGIN_NAME, $PLUGIN_VERSION"
 147
 148     virtualenv ./venv-pkg
 149     source ./venv-pkg/bin/activate
 150     pip install --upgrade pip
 151     pip install wagon
 152     wagon create --format tar.gz "$PLUGIN_DIR"
 153     deactivate
 154     rm -rf venv-pkg
 155
 156     PKG_FILE_NAMES=( "${PLUGIN_NAME}-${PLUGIN_VERSION}"*.wgn )
 157     echo Built package: "${PKG_FILE_NAMES[@]}"
 158   done
 159 }
 160
 161
 162 upload_raw_file()
 163 {
 164   # Extract the username and password to the nexus repo from the settings file
 165   USER=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/username/text()" "$SETTINGS_FILE")
 166   PASS=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/password/text()" "$SETTINGS_FILE")
 167   NETRC=$(mktemp)
 168   echo "machine $MVN_RAWREPO_HOST login $USER password $PASS" > "$NETRC"
 169
 170   REPO="$MVN_RAWREPO_BASEURL_UPLOAD"
 171
 172   OUTPUT_FILE=$1
 173   EXT=$(echo "$OUTPUT_FILE" | rev |cut -f1 -d '.' |rev)
 174   if [ "$EXT" == 'yaml' ]; then
 175     OUTPUT_FILE_TYPE='text/x-yaml'
 176   elif [ "$EXT" == 'sh' ]; then
 177     OUTPUT_FILE_TYPE='text/x-shellscript'
 178   elif [ "$EXT" == 'gz' ]; then
 179     OUTPUT_FILE_TYPE='application/gzip'
 180   elif [ "$EXT" == 'wgn' ]; then
 181     OUTPUT_FILE_TYPE='application/gzip'
 182   else
 183     OUTPUT_FILE_TYPE='application/octet-stream'
 184   fi
 185
 186
 187   if [ "$MVN_DEPLOYMENT_TYPE" == 'SNAPSHOT' ]; then
 188     SEND_TO="${REPO}/${FQDN}/snapshots"
 189   elif [ "$MVN_DEPLOYMENT_TYPE" == 'STAGING' ]; then
 190     SEND_TO="${REPO}/${FQDN}/releases"
 191   else
 192     echo "Unreconfnized deployment type, quit"
 193     exit
 194   fi
 195   if [ ! -z "$MVN_PROJECT_MODULEID" ]; then
 196     SEND_TO="$SEND_TO/$MVN_PROJECT_MODULEID"
 197   fi
 198
 199   echo "Sending ${OUTPUT_FILE} to Nexus: ${SEND_TO}"
 200   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}-${MVN_PROJECT_VERSION}-${TIMESTAMP}"
 201   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}-${MVN_PROJECT_VERSION}"
 202   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}"
 203 }
 204
 205
 206
 207 upload_wagons_and_type_yamls()
 208 {
 209   WAGONS=$(ls -1 ./*.wgn)
 210   for WAGON in $WAGONS ; do
 211     WAGON_NAME=$(echo "$WAGON" | cut -f1 -d '-')
 212     WAGON_VERSION=$(echo "$WAGON" | cut -f2 -d '-')
 213     WAGON_TYPEFILE=$(grep -rl "$WAGON_NAME" | grep yaml | head -1)
 214
 215     upload_raw_file "$WAGON"
 216     upload_raw_file "$WAGON_TYPEFILE"
 217   done
 218 }
 219
 220 upload_files_of_extension()
 221 {
 222   FILES=$(ls -1 ./*."$1")
 223   for F in $FILES ; do
 224     upload_raw_file "$F"
 225   done
 226 }
 227
 228
 229
 230 build_and_push_docker()
 231 {
 232   IMAGENAME="onap/${FQDN}.${MVN_PROJECT_MODULEID}"
 233   IMAGENAME=$(echo "$IMAGENAME" | sed -e 's/_*$//g' -e 's/\.*$//g')
 234
 235   # use the major and minor version of the MVN artifact version as docker image version
 236   VERSION="${MVN_PROJECT_VERSION//[^0-9.]/}"
 237   VERSION2=$(echo "$VERSION" | cut -f1-2 -d'.')
 238
 239   LFQI="${IMAGENAME}:${VERSION}-${TIMESTAMP}"
 240   BUILD_PATH="${WORKSPACE}"
 241   # build a docker image
 242   docker build --rm -f "${WORKSPACE}"/Dockerfile -t "${LFQI}" "${BUILD_PATH}"
 243
 244   REPO=""
 245   if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 246      REPO=$MVN_DOCKERREGISTRY_DAILY
 247   elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 248      # there seems to be no staging docker registry?  set to use SNAPSHOT also
 249      #REPO=$MVN_DOCKERREGISTRY_RELEASE
 250      REPO=$MVN_DOCKERREGISTRY_DAILY
 251   else
 252      echo "Fail to determine DEPLOYMENT_TYPE"
 253      REPO=$MVN_DOCKERREGISTRY_DAILY
 254   fi
 255   echo "DEPLOYMENT_TYPE is: $MVN_DEPLOYMENT_TYPE, repo is $REPO"
 256
 257   if [ ! -z "$REPO" ]; then
 258     USER=$(xpath -e "//servers/server[id='$REPO']/username/text()" "$SETTINGS_FILE")
 259     PASS=$(xpath -e "//servers/server[id='$REPO']/password/text()" "$SETTINGS_FILE")
 260     if [ -z "$USER" ]; then
 261       echo "Error: no user provided"
 262     fi
 263     if [ -z "$PASS" ]; then
 264       echo "Error: no password provided"
 265     fi
 266     [ -z "$PASS" ] && PASS_PROVIDED="<empty>" || PASS_PROVIDED="<password>"
 267     echo docker login "$REPO" -u "$USER" -p "$PASS_PROVIDED"
 268     docker login "$REPO" -u "$USER" -p "$PASS"
 269
 270     if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 271       REPO="$REPO/snapshots"
 272     elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 273       # there seems to be no staging docker registry?  set to use SNAPSHOT also
 274       #REPO=$MVN_DOCKERREGISTRY_RELEASE
 275       REPO="$REPO"
 276     else
 277       echo "Fail to determine DEPLOYMENT_TYPE"
 278       REPO="$REPO/unknown"
 279     fi
 280
 281     OLDTAG="${LFQI}"
 282     PUSHTAGS="${REPO}/${IMAGENAME}:${VERSION2}-${TIMESTAMP} ${REPO}/${IMAGENAME}:${VERSION2} ${REPO}/${IMAGENAME}:${VERSION2}-latest"
 283     for NEWTAG in ${PUSHTAGS}
 284     do
 285       echo "tagging ${OLDTAG} to ${NEWTAG}"
 286       docker tag "${OLDTAG}" "${NEWTAG}"
 287       echo "pushing ${NEWTAG}"
 288       docker push "${NEWTAG}"
 289       OLDTAG="${NEWTAG}"
 290     done
 291   fi
 292
 293 }
 294
 295
 296