mvn-phase-lib.sh

   1 #!/bin/bash
   2
   3 # ================================================================================
   4 # Copyright (c) 2017 AT&T Intellectual Property. All rights reserved.
   5 # ================================================================================
   6 # Licensed under the Apache License, Version 2.0 (the "License");
   7 # you may not use this file except in compliance with the License.
   8 # You may obtain a copy of the License at
   9 #
  10 #     http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 # Unless required by applicable law or agreed to in writing, software
  13 # distributed under the License is distributed on an "AS IS" BASIS,
  14 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 # See the License for the specific language governing permissions and
  16 # limitations under the License.
  17 # ============LICENSE_END=========================================================
  18 #
  19 # ECOMP is a trademark and service mark of AT&T Intellectual Property.
  20
  21
  22 #MVN_PROJECT_MODULEID="$1"
  23 #MVN_PHASE="$2"
  24 #PROJECT_ROOT=$(dirname $0)
  25
  26 FQDN="${MVN_PROJECT_GROUPID}.${MVN_PROJECT_ARTIFACTID}"
  27 if [ "$MVN_PROJECT_MODULEID" == "__" ]; then
  28   MVN_PROJECT_MODULEID=""
  29 fi
  30
  31 if [[ "$MVN_PROJECT_VERSION" == *SNAPSHOT ]]; then
  32   echo "=> for SNAPSHOT artifact build"
  33   MVN_DEPLOYMENT_TYPE='SNAPSHOT'
  34 else
  35   echo "=> for STAGING/RELEASE artifact build"
  36   MVN_DEPLOYMENT_TYPE='STAGING'
  37 fi
  38 echo "MVN_DEPLOYMENT_TYPE is             [$MVN_DEPLOYMENT_TYPE]"
  39
  40
  41 TIMESTAMP=$(date +%C%y%m%dT%H%M%S)
  42
  43 # expected environment variables
  44 if [ -z "${MVN_NEXUSPROXY}" ]; then
  45     echo "MVN_NEXUSPROXY environment variable not set.  Cannot proceed"
  46     exit
  47 fi
  48 MVN_NEXUSPROXY_HOST=$(echo "$MVN_NEXUSPROXY" |cut -f3 -d'/' | cut -f1 -d':')
  49 echo "=> Nexus Proxy at $MVN_NEXUSPROXY_HOST, $MVN_NEXUSPROXY"
  50
  51 if [ -z "$WORKSPACE" ]; then
  52     WORKSPACE=$(pwd)
  53 fi
  54
  55 if [ -z "$SETTINGS_FILE" ]; then
  56     echo "SETTINGS_FILE environment variable not set.  Cannot proceed"
  57     exit
  58 fi
  59
  60
  61
  62 # mvn phase in life cycle
  63 MVN_PHASE="$2"
  64
  65 echo "MVN_PROJECT_MODULEID is            [$MVN_PROJECT_MODULEID]"
  66 echo "MVN_PHASE is                       [$MVN_PHASE]"
  67 echo "MVN_PROJECT_GROUPID is             [$MVN_PROJECT_GROUPID]"
  68 echo "MVN_PROJECT_ARTIFACTID is          [$MVN_PROJECT_ARTIFACTID]"
  69 echo "MVN_PROJECT_VERSION is             [$MVN_PROJECT_VERSION]"
  70 echo "MVN_NEXUSPROXY is                  [$MVN_NEXUSPROXY]"
  71 echo "MVN_RAWREPO_BASEURL_UPLOAD is      [$MVN_RAWREPO_BASEURL_UPLOAD]"
  72 echo "MVN_RAWREPO_BASEURL_DOWNLOAD is    [$MVN_RAWREPO_BASEURL_DOWNLOAD]"
  73 MVN_RAWREPO_HOST=$(echo "$MVN_RAWREPO_BASEURL_UPLOAD" | cut -f3 -d'/' |cut -f1 -d':')
  74 echo "MVN_RAWREPO_HOST is                [$MVN_RAWREPO_HOST]"
  75 echo "MVN_RAWREPO_SERVERID is            [$MVN_RAWREPO_SERVERID]"
  76 echo "MVN_DOCKERREGISTRY_DAILY is        [$MVN_DOCKERREGISTRY_DAILY]"
  77 echo "MVN_DOCKERREGISTRY_RELEASE is      [$MVN_DOCKERREGISTRY_RELEASE]"
  78
  79 echo "MVN_PYPISERVER_SERVERID            [$MVN_PYPISERVER_SERVERID]"
  80 echo "MVN_PYPISERVER_BASEURL is          [$MVN_PYPISERVER_BASEURL]"
  81
  82
  83
  84 clean_templated_files()
  85 {
  86   TEMPLATE_FILES=$(find . -name "*-template")
  87   for F in $TEMPLATE_FILES; do
  88     F2=$(echo "$F" | sed 's/-template$//')
  89     rm -f "$F2"
  90   done
  91 }
  92 clean_tox_files()
  93 {
  94   TOX_FILES=$(find . -name ".tox")
  95   TOX_FILES="$TOX_FILES $(find . -name 'venv-tox')"
  96   for F in $TOX_FILES; do
  97     rm -rf "$F"
  98   done
  99 }
 100
 101 expand_templates()
 102 {
 103   # set up env variables, get ready for template resolution
 104   # NOTE: CCSDK artifacts do not distinguish REALESE vs SNAPSHOTs
 105   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
 106   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
 107   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
 108   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
 109
 110   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/releases"
 111   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/snapshots"
 112   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/releases"
 113   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/snapshots"
 114   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/releases"
 115   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/snapshots"
 116
 117   export ONAPTEMPLATE_PYPIURL_org_onap_dcaegen2="$MVN_PYPISERVER_BASEURL"
 118
 119   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_releases="$MVN_DOCKERREGISTRY_DAILY"
 120   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_snapshots="$MVN_DOCKERREGISTRY_DAILY/snapshots"
 121
 122
 123   TEMPLATE_FILES=$(find . -name "*-template")
 124   for F in $TEMPLATE_FILES; do
 125     F2=$(echo "$F" | sed 's/-template$//')
 126     cp "$F" "$F2"
 127     MOD=$(stat --format '%a' "$F")
 128     chmod "$MOD" "$F2"
 129   done
 130
 131
 132   TEMPLATES=$(env |grep ONAPTEMPLATE)
 133   if [ -z "$TEMPLATES" ]; then
 134     return 0
 135   fi
 136
 137   echo "====> Resolving the following temaplate from environment variables "
 138   echo "[$TEMPLATES]"
 139   SELFFILE=$(echo "$0" | rev | cut -f1 -d '/' | rev)
 140   for TEMPLATE in $TEMPLATES; do
 141     KEY=$(echo "$TEMPLATE" | cut -f1 -d'=')
 142     VALUE=$(echo "$TEMPLATE" | cut -f2 -d'=')
 143     VALUE2=$(echo "$TEMPLATE" | cut -f2 -d'=' |sed 's/\//\\\//g')
 144     set +e
 145     FILES=$(grep -rl "$KEY")
 146     set -e
 147
 148     if [ -z "$FILES" ]; then
 149       continue
 150     fi
 151
 152     # assuming FILES is not longer than 2M bytes, the limit for variable value max size on this VM
 153     for F in $FILES; do
 154       if [[ $F == *"$SELFFILE" ]]; then
 155         continue
 156       fi
 157       if [[ "$F" == *-template ]]; then
 158         continue
 159       fi
 160
 161       echo "======> Resolving template $KEY to value $VALUE for file $F"
 162       sed -i "s/{{[[:space:]]*$KEY[[:space:]]*}}/$VALUE2/g" "$F"
 163       #cat "$F"
 164     done
 165
 166     #if [ ! -z "$FILES" ]; then
 167     #   echo "====> Resolving template $VALUE to value $VALUE"
 168     #   #CMD="grep -rl \"$VALUE\" | tr '\n' '\0' | xargs -0 sed -i \"s/{{[[:space:]]*$VALUE[[:space:]]*}}/$VALUE/g\""
 169     #   grep -rl "$KEY" | tr '\n' '\0' | xargs -0 sed -i 's/$KEY/$VALUE2/g'
 170     #   #echo $CMD
 171     #   #eval $CMD
 172     #fi
 173   done
 174   echo "====> Done template reolving"
 175 }
 176
 177
 178 run_tox_test()
 179 {
 180   set -x
 181   CURDIR=$(pwd)
 182   TOXINIS=$(find . -name "tox.ini")
 183   for TOXINI in "${TOXINIS[@]}"; do
 184     DIR=$(echo "$TOXINI" | rev | cut -f2- -d'/' | rev)
 185     cd "${CURDIR}/${DIR}"
 186     rm -rf ./venv-tox ./.tox
 187     virtualenv ./venv-tox
 188     source ./venv-tox/bin/activate
 189     pip install --upgrade pip
 190     pip install --upgrade tox argparse
 191     pip freeze
 192     tox
 193     deactivate
 194     rm -rf ./venv-tox ./.tox
 195   done
 196 }
 197
 198 build_wagons()
 199 {
 200   rm -rf ./*.wgn venv-pkg
 201
 202   SETUPFILES=$(find . -name "setup.py")
 203   for SETUPFILE in $SETUPFILES; do
 204     PLUGIN_DIR=$(echo "$SETUPFILE" |rev | cut -f 2- -d '/' |rev)
 205     PLUGIN_NAME=$(grep 'name' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9a-zA-Z\.]*//g')
 206     PLUGIN_VERSION=$(grep 'version' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9\.]*//g')
 207
 208     echo "In $PLUGIN_DIR, $PLUGIN_NAME, $PLUGIN_VERSION"
 209
 210     virtualenv ./venv-pkg
 211     source ./venv-pkg/bin/activate
 212     pip install --upgrade pip
 213     pip install wagon
 214     wagon create --format tar.gz "$PLUGIN_DIR"
 215     deactivate
 216     rm -rf venv-pkg
 217
 218     PKG_FILE_NAMES=( "${PLUGIN_NAME}-${PLUGIN_VERSION}"*.wgn )
 219     echo Built package: "${PKG_FILE_NAMES[@]}"
 220   done
 221 }
 222
 223
 224 upload_raw_file()
 225 {
 226   # Extract the username and password to the nexus repo from the settings file
 227   USER=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/username/text()" "$SETTINGS_FILE")
 228   PASS=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/password/text()" "$SETTINGS_FILE")
 229   NETRC=$(mktemp)
 230   echo "machine $MVN_RAWREPO_HOST login $USER password $PASS" > "$NETRC"
 231
 232   REPO="$MVN_RAWREPO_BASEURL_UPLOAD"
 233
 234   OUTPUT_FILE=$(echo "$1" | sed -e "s/^.\///")
 235   EXT=$(echo "$OUTPUT_FILE" | rev |cut -f1 -d '.' |rev)
 236   if [ "$EXT" == 'yaml' ]; then
 237     OUTPUT_FILE_TYPE='text/x-yaml'
 238   elif [ "$EXT" == 'json' ]; then
 239     OUTPUT_FILE_TYPE='application/json'
 240   elif [ "$EXT" == 'sh' ]; then
 241     OUTPUT_FILE_TYPE='text/x-shellscript'
 242   elif [ "$EXT" == 'gz' ]; then
 243     OUTPUT_FILE_TYPE='application/gzip'
 244   elif [ "$EXT" == 'wgn' ]; then
 245     OUTPUT_FILE_TYPE='application/gzip'
 246   else
 247     OUTPUT_FILE_TYPE='application/octet-stream'
 248   fi
 249
 250
 251   if [ "$MVN_DEPLOYMENT_TYPE" == 'SNAPSHOT' ]; then
 252     SEND_TO="${REPO}/${MVN_PROJECT_GROUPID}/snapshots"
 253   elif [ "$MVN_DEPLOYMENT_TYPE" == 'STAGING' ]; then
 254     SEND_TO="${REPO}/${MVN_PROJECT_GROUPID}/releases"
 255   else
 256     echo "Unreconfnized deployment type, quit"
 257     exit
 258   fi
 259   if [ ! -z "$MVN_PROJECT_MODULEID" ]; then
 260     SEND_TO="$SEND_TO/$MVN_PROJECT_MODULEID"
 261   fi
 262
 263   echo "Sending ${OUTPUT_FILE} to Nexus: ${SEND_TO}"
 264   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}-${MVN_PROJECT_VERSION}-${TIMESTAMP}"
 265   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}-${MVN_PROJECT_VERSION}"
 266   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}"
 267 }
 268
 269
 270
 271 upload_wagons_and_type_yamls()
 272 {
 273   WAGONS=$(ls -1 ./*.wgn)
 274   for WAGON in $WAGONS ; do
 275     WAGON_NAME=$(echo "$WAGON" | cut -f1 -d '-')
 276     WAGON_VERSION=$(echo "$WAGON" | cut -f2 -d '-')
 277     WAGON_TYPEFILE=$(grep -rl "$WAGON_NAME" | grep yaml | head -1)
 278
 279     upload_raw_file "$WAGON"
 280     upload_raw_file "$WAGON_TYPEFILE"
 281   done
 282 }
 283
 284 upload_files_of_extension()
 285 {
 286   FILES=$(ls -1 ./*."$1")
 287   for F in $FILES ; do
 288     upload_raw_file "$F"
 289   done
 290 }
 291
 292
 293 generate_pypirc_then_publish()
 294 {
 295   set +x
 296   USER=$(xpath -e "//servers/server[id='$MVN_PYPISERVER_SERVERID']/username/text()" "$SETTINGS_FILE")
 297   PASS=$(xpath -e "//servers/server[id='$MVN_PYPISERVER_SERVERID']/password/text()" "$SETTINGS_FILE")
 298
 299   if [[ "$MVN_PYPISERVER_BASEURL" != */ ]]; then
 300     MVN_PYPISERVER_BASEURL="${MVN_PYPISERVER_BASEURL}/"
 301   fi
 302
 303
 304   cat > ~/.pypirc <<EOL
 305 [distutils]
 306 index-servers =
 307   $MVN_PYPISERVER_SERVERID
 308
 309 [$MVN_PYPISERVER_SERVERID]
 310 repository: $MVN_PYPISERVER_BASEURL
 311 username: $USER
 312 password: $PASS
 313 EOL
 314
 315   # this may fail if a package of same version exists
 316   python setup.py sdist register -r "$MVN_PYPISERVER_SERVERID" upload -r "$MVN_PYPISERVER_SERVERID"
 317   set -x
 318 }
 319
 320
 321
 322 build_and_push_docker()
 323 {
 324   IMAGENAME="onap/${FQDN}.${MVN_PROJECT_MODULEID}"
 325   IMAGENAME=$(echo "$IMAGENAME" | sed -e 's/_*$//g' -e 's/\.*$//g')
 326   IMAGENAME=$(echo "$IMAGENAME" | tr '[:upper:]' '[:lower:]')
 327
 328   # use the major and minor version of the MVN artifact version as docker image version
 329   VERSION="${MVN_PROJECT_VERSION//[^0-9.]/}"
 330   VERSION2=$(echo "$VERSION" | cut -f1-2 -d'.')
 331
 332   LFQI="${IMAGENAME}:${VERSION}-${TIMESTAMP}"
 333   # build a docker image
 334   docker build --rm -f ./Dockerfile -t "${LFQI}" ./
 335
 336   REPO=""
 337   if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 338      REPO=$MVN_DOCKERREGISTRY_DAILY
 339   elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 340      # there seems to be no staging docker registry?  set to use SNAPSHOT also
 341      #REPO=$MVN_DOCKERREGISTRY_RELEASE
 342      REPO=$MVN_DOCKERREGISTRY_DAILY
 343   else
 344      echo "Fail to determine DEPLOYMENT_TYPE"
 345      REPO=$MVN_DOCKERREGISTRY_DAILY
 346   fi
 347   echo "DEPLOYMENT_TYPE is: $MVN_DEPLOYMENT_TYPE, repo is $REPO"
 348
 349   if [ ! -z "$REPO" ]; then
 350     USER=$(xpath -e "//servers/server[id='$REPO']/username/text()" "$SETTINGS_FILE")
 351     PASS=$(xpath -e "//servers/server[id='$REPO']/password/text()" "$SETTINGS_FILE")
 352     if [ -z "$USER" ]; then
 353       echo "Error: no user provided"
 354     fi
 355     if [ -z "$PASS" ]; then
 356       echo "Error: no password provided"
 357     fi
 358     [ -z "$PASS" ] && PASS_PROVIDED="<empty>" || PASS_PROVIDED="<password>"
 359     echo docker login "$REPO" -u "$USER" -p "$PASS_PROVIDED"
 360     docker login "$REPO" -u "$USER" -p "$PASS"
 361
 362     if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 363       REPO="$REPO/snapshots"
 364     elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 365       # there seems to be no staging docker registry?  set to use SNAPSHOT also
 366       #REPO=$MVN_DOCKERREGISTRY_RELEASE
 367       REPO="$REPO"
 368     else
 369       echo "Fail to determine DEPLOYMENT_TYPE"
 370       REPO="$REPO/unknown"
 371     fi
 372
 373     OLDTAG="${LFQI}"
 374     PUSHTAGS="${REPO}/${IMAGENAME}:${VERSION2}-${TIMESTAMP} ${REPO}/${IMAGENAME}:${VERSION2} ${REPO}/${IMAGENAME}:${VERSION2}-latest"
 375     for NEWTAG in ${PUSHTAGS}
 376     do
 377       echo "tagging ${OLDTAG} to ${NEWTAG}"
 378       docker tag "${OLDTAG}" "${NEWTAG}"
 379       echo "pushing ${NEWTAG}"
 380       docker push "${NEWTAG}"
 381       OLDTAG="${NEWTAG}"
 382     done
 383   fi
 384
 385 }
 386
 387
 388