mvn-phase-lib.sh

   1 #!/bin/bash
   2
   3 # ================================================================================
   4 # Copyright (c) 2017 AT&T Intellectual Property. All rights reserved.
   5 # ================================================================================
   6 # Licensed under the Apache License, Version 2.0 (the "License");
   7 # you may not use this file except in compliance with the License.
   8 # You may obtain a copy of the License at
   9 #
  10 #     http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 # Unless required by applicable law or agreed to in writing, software
  13 # distributed under the License is distributed on an "AS IS" BASIS,
  14 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 # See the License for the specific language governing permissions and
  16 # limitations under the License.
  17 # ============LICENSE_END=========================================================
  18 #
  19 # ECOMP is a trademark and service mark of AT&T Intellectual Property.
  20
  21
  22 #MVN_PROJECT_MODULEID="$1"
  23 #MVN_PHASE="$2"
  24 #PROJECT_ROOT=$(dirname $0)
  25
  26 FQDN="${MVN_PROJECT_GROUPID}.${MVN_PROJECT_ARTIFACTID}"
  27 if [ "$MVN_PROJECT_MODULEID" == "__" ]; then
  28   MVN_PROJECT_MODULEID=""
  29 fi
  30
  31 if [[ "$MVN_PROJECT_VERSION" == *SNAPSHOT ]]; then
  32   echo "=> for SNAPSHOT artifact build"
  33   MVN_DEPLOYMENT_TYPE='SNAPSHOT'
  34 else
  35   echo "=> for STAGING/RELEASE artifact build"
  36   MVN_DEPLOYMENT_TYPE='STAGING'
  37 fi
  38 echo "MVN_DEPLOYMENT_TYPE is             [$MVN_DEPLOYMENT_TYPE]"
  39
  40
  41 TIMESTAMP=$(date +%C%y%m%dT%H%M%S)
  42
  43 # expected environment variables
  44 if [ -z "${MVN_NEXUSPROXY}" ]; then
  45     echo "MVN_NEXUSPROXY environment variable not set.  Cannot proceed"
  46     exit
  47 fi
  48 MVN_NEXUSPROXY_HOST=$(echo "$MVN_NEXUSPROXY" |cut -f3 -d'/' | cut -f1 -d':')
  49 echo "=> Nexus Proxy at $MVN_NEXUSPROXY_HOST, $MVN_NEXUSPROXY"
  50
  51 if [ -z "$WORKSPACE" ]; then
  52     WORKSPACE=$(pwd)
  53 fi
  54
  55 if [ -z "$SETTINGS_FILE" ]; then
  56     echo "SETTINGS_FILE environment variable not set.  Cannot proceed"
  57     exit
  58 fi
  59
  60
  61
  62 # mvn phase in life cycle
  63 MVN_PHASE="$2"
  64
  65 echo "MVN_PROJECT_MODULEID is            [$MVN_PROJECT_MODULEID]"
  66 echo "MVN_PHASE is                       [$MVN_PHASE]"
  67 echo "MVN_PROJECT_GROUPID is             [$MVN_PROJECT_GROUPID]"
  68 echo "MVN_PROJECT_ARTIFACTID is          [$MVN_PROJECT_ARTIFACTID]"
  69 echo "MVN_PROJECT_VERSION is             [$MVN_PROJECT_VERSION]"
  70 echo "MVN_NEXUSPROXY is                  [$MVN_NEXUSPROXY]"
  71 echo "MVN_RAWREPO_BASEURL_UPLOAD is      [$MVN_RAWREPO_BASEURL_UPLOAD]"
  72 echo "MVN_RAWREPO_BASEURL_DOWNLOAD is    [$MVN_RAWREPO_BASEURL_DOWNLOAD]"
  73 MVN_RAWREPO_HOST=$(echo "$MVN_RAWREPO_BASEURL_UPLOAD" | cut -f3 -d'/' |cut -f1 -d':')
  74 echo "MVN_RAWREPO_HOST is                [$MVN_RAWREPO_HOST]"
  75 echo "MVN_RAWREPO_SERVERID is            [$MVN_RAWREPO_SERVERID]"
  76 echo "MVN_DOCKERREGISTRY_SNAPSHOT is     [$MVN_DOCKERREGISTRY_SNAPSHOT]"
  77 echo "MVN_DOCKERREGISTRY_PUBLIC is       [$MVN_DOCKERREGISTRY_PUBLIC]"
  78 echo "MVN_DOCKERREGISTRY_RELEASE is      [$MVN_DOCKERREGISTRY_RELEASE]"
  79
  80 echo "MVN_PYPISERVER_SERVERID            [$MVN_PYPISERVER_SERVERID]"
  81 echo "MVN_PYPISERVER_BASEURL is          [$MVN_PYPISERVER_BASEURL]"
  82
  83
  84
  85 clean_templated_files()
  86 {
  87   TEMPLATE_FILES=$(find . -name "*-template")
  88   for F in $TEMPLATE_FILES; do
  89     F2=$(echo "$F" | sed 's/-template$//')
  90     rm -f "$F2"
  91   done
  92 }
  93 clean_tox_files()
  94 {
  95   TOX_FILES=$(find . -name ".tox")
  96   TOX_FILES="$TOX_FILES $(find . -name 'venv-tox')"
  97   for F in $TOX_FILES; do
  98     rm -rf "$F"
  99   done
 100 }
 101
 102 expand_templates()
 103 {
 104   # set up env variables, get ready for template resolution
 105   # NOTE: CCSDK artifacts do not distinguish REALESE vs SNAPSHOTs
 106   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
 107   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.plugins"
 108   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
 109   export ONAPTEMPLATE_RAWREPOURL_org_onap_ccsdk_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.ccsdk.platform.blueprints"
 110
 111   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/releases"
 112   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2/snapshots"
 113   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/releases"
 114   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_plugins_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.plugins/snapshots"
 115   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_releases="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/releases"
 116   export ONAPTEMPLATE_RAWREPOURL_org_onap_dcaegen2_platform_blueprints_snapshots="$MVN_RAWREPO_BASEURL_DOWNLOAD/org.onap.dcaegen2.platform.blueprints/snapshots"
 117
 118   export ONAPTEMPLATE_PYPIURL_org_onap_dcaegen2="${MVN_PYPISERVER_BASEURL}"
 119
 120   # docker registry templates are for poll, so use PUBLIC registry
 121   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_releases="$MVN_DOCKERREGISTRY_PUBLIC"
 122   export ONAPTEMPLATE_DOCKERREGURL_org_onap_dcaegen2_snapshots="${MVN_DOCKERREGISTRY_PUBLIC}/snapshots"
 123
 124
 125   TEMPLATE_FILES=$(find . -name "*-template")
 126   for F in $TEMPLATE_FILES; do
 127     F2=$(echo "$F" | sed 's/-template$//')
 128     cp "$F" "$F2"
 129     MOD=$(stat --format '%a' "$F")
 130     chmod "$MOD" "$F2"
 131   done
 132
 133
 134   TEMPLATES=$(env |grep ONAPTEMPLATE)
 135   if [ -z "$TEMPLATES" ]; then
 136     return 0
 137   fi
 138
 139   echo "====> Resolving the following temaplate from environment variables "
 140   echo "[$TEMPLATES]"
 141   SELFFILE=$(echo "$0" | rev | cut -f1 -d '/' | rev)
 142   for TEMPLATE in $TEMPLATES; do
 143     KEY=$(echo "$TEMPLATE" | cut -f1 -d'=')
 144     VALUE=$(echo "$TEMPLATE" | cut -f2 -d'=')
 145     VALUE2=$(echo "$TEMPLATE" | cut -f2 -d'=' |sed 's/\//\\\//g')
 146     set +e
 147     FILES=$(grep -rl "$KEY")
 148     set -e
 149
 150     if [ -z "$FILES" ]; then
 151       continue
 152     fi
 153
 154     # assuming FILES is not longer than 2M bytes, the limit for variable value max size on this VM
 155     for F in $FILES; do
 156       if [[ $F == *"$SELFFILE" ]]; then
 157         continue
 158       fi
 159       if [[ "$F" == *-template ]]; then
 160         continue
 161       fi
 162
 163       echo "======> Resolving template $KEY to value $VALUE for file $F"
 164       sed -i "s/{{[[:space:]]*$KEY[[:space:]]*}}/$VALUE2/g" "$F"
 165       #cat "$F"
 166     done
 167
 168     #if [ ! -z "$FILES" ]; then
 169     #   echo "====> Resolving template $VALUE to value $VALUE"
 170     #   #CMD="grep -rl \"$VALUE\" | tr '\n' '\0' | xargs -0 sed -i \"s/{{[[:space:]]*$VALUE[[:space:]]*}}/$VALUE/g\""
 171     #   grep -rl "$KEY" | tr '\n' '\0' | xargs -0 sed -i 's/$KEY/$VALUE2/g'
 172     #   #echo $CMD
 173     #   #eval $CMD
 174     #fi
 175   done
 176   echo "====> Done template reolving"
 177 }
 178
 179 test_templates()
 180 {
 181     # make certain that the type references exist
 182     TMP=$(mktemp)
 183     trap 'rm -f $TMP' 0 1 2 3 15
 184     find . -name '*-template' | sed -e 's/-template$//' |
 185     while read file
 186     do
 187         egrep '^  - .?https?://' < $file
 188     done  | awk '{print $2}' | sed -e 's/"//g' | sort -u |
 189     while read url
 190     do
 191         curl -L -w '%{http_code}' -s -o /dev/null "$url" > $TMP
 192         case $(< $TMP) in
 193             2* ) ;;
 194             * ) echo ">>>>>>>>>>>>>>>> $url not found <<<<<<<<<<<<<<<<" ;;
 195         esac
 196     done
 197 }
 198
 199
 200 run_tox_test()
 201 {
 202   set -x
 203   CURDIR=$(pwd)
 204   TOXINIS=$(find . -name "tox.ini")
 205   for TOXINI in "${TOXINIS[@]}"; do
 206     DIR=$(echo "$TOXINI" | rev | cut -f2- -d'/' | rev)
 207     cd "${CURDIR}/${DIR}"
 208     rm -rf ./venv-tox ./.tox
 209     virtualenv ./venv-tox
 210     source ./venv-tox/bin/activate
 211     pip install --upgrade pip
 212     pip install --upgrade tox argparse
 213     pip freeze
 214     tox
 215     deactivate
 216     rm -rf ./venv-tox ./.tox
 217   done
 218 }
 219
 220 build_wagons()
 221 {
 222   rm -rf ./*.wgn venv-pkg
 223   SETUPFILES=$(find . -name "setup.py")
 224
 225   virtualenv ./venv-pkg
 226   source ./venv-pkg/bin/activate
 227   pip install --upgrade pip
 228   pip install wagon
 229
 230   CURDIR=$(pwd)
 231   for SETUPFILE in $SETUPFILES; do
 232     PLUGIN_DIR=$(dirname "$SETUPFILE")
 233     PLUGIN_NAME=$(grep 'name' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9a-zA-Z\.]*//g')
 234     PLUGIN_VERSION=$(grep 'version' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9\.]*//g')
 235
 236     echo "In $PLUGIN_DIR, build plugin $PLUGIN_NAME, version $PLUGIN_VERSION"
 237
 238     wagon create --format tar.gz "${PLUGIN_DIR}"
 239
 240     PKG_FILE_NAMES=( "${PLUGIN_NAME}-${PLUGIN_VERSION}"*.wgn )
 241     echo Built package: "${PKG_FILE_NAMES[@]}"
 242     cd $CURDIR
 243   done
 244
 245   deactivate
 246   rm -rf venv-pkg
 247 }
 248
 249
 250 upload_raw_file()
 251 {
 252   # Extract the username and password to the nexus repo from the settings file
 253   USER=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/username/text()" "$SETTINGS_FILE")
 254   PASS=$(xpath -q -e "//servers/server[id='$MVN_RAWREPO_SERVERID']/password/text()" "$SETTINGS_FILE")
 255   NETRC=$(mktemp)
 256   echo "machine $MVN_RAWREPO_HOST login $USER password $PASS" > "$NETRC"
 257
 258   REPO="$MVN_RAWREPO_BASEURL_UPLOAD"
 259
 260   OUTPUT_FILE=$1
 261   EXT=$(echo "$OUTPUT_FILE" | rev |cut -f1 -d '.' |rev)
 262   if [ "$EXT" == 'yaml' ]; then
 263     OUTPUT_FILE_TYPE='text/x-yaml'
 264   elif [ "$EXT" == 'sh' ]; then
 265     OUTPUT_FILE_TYPE='text/x-shellscript'
 266   elif [ "$EXT" == 'gz' ]; then
 267     OUTPUT_FILE_TYPE='application/gzip'
 268   elif [ "$EXT" == 'wgn' ]; then
 269     OUTPUT_FILE_TYPE='application/gzip'
 270   else
 271     OUTPUT_FILE_TYPE='application/octet-stream'
 272   fi
 273
 274   # for multi module projects, the raw repo path must match with project name, not project + module
 275   # FQDN is project + module
 276   # GROUPID is project name
 277   if [ "$MVN_PROJECT_ARTIFACTID" == "$MVN_PROJECT_MODULEID" ]; then
 278     PROJECT_NAME=${MVN_PROJECT_GROUPID}
 279   else
 280     PROJECT_NAME=${FQDN}
 281   fi
 282   if [ "$MVN_DEPLOYMENT_TYPE" == 'SNAPSHOT' ]; then
 283     SEND_TO="${REPO}/${PROJECT_NAME}/snapshots"
 284   elif [ "$MVN_DEPLOYMENT_TYPE" == 'STAGING' ]; then
 285     SEND_TO="${REPO}/${PROJECT_NAME}/releases"
 286   else
 287     echo "Unreconfnized deployment type, quit"
 288     exit
 289   fi
 290   #if [ ! -z "$MVN_PROJECT_MODULEID" ]; then
 291   #  SEND_TO="$SEND_TO/$MVN_PROJECT_MODULEID"
 292   #fi
 293   if [ ! -z "$2" ]; then
 294     SEND_TO="$SEND_TO/$2"
 295   fi
 296
 297   echo "Sending ${OUTPUT_FILE} to Nexus: ${SEND_TO}"
 298   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}-${TIMESTAMP}"
 299   curl -vkn --netrc-file "${NETRC}" --upload-file "${OUTPUT_FILE}" -X PUT -H "Content-Type: $OUTPUT_FILE_TYPE" "${SEND_TO}/${OUTPUT_FILE}"
 300 }
 301
 302
 303
 304 upload_wagons_and_type_yamls()
 305 {
 306   SETUPFILES=$(find . -name "setup.py")
 307
 308   CURDIR=$(pwd)
 309   for SETUPFILE in $SETUPFILES; do
 310     PLUGIN_DIR=$(dirname "$SETUPFILE")
 311     PLUGIN_NAME=$(grep 'name' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9a-zA-Z\.]*//g')
 312     PLUGIN_VERSION=$(grep 'version' "$SETUPFILE" | cut -f2 -d'=' | sed 's/[^0-9\.]*//g')
 313     PLUGIN_VERSION_MAJOR=$(echo "$PLUGIN_VERSION" | cut -f1 -d'.')
 314     PLUGIN_VERSION_MAJOR_MINOR=$(echo "$PLUGIN_VERSION" | cut -f1-2 -d'.')
 315
 316     echo "Found setup file in $PLUGIN_DIR, for plugin $PLUGIN_NAME version $PLUGIN_VERSION"
 317
 318     TYPEFILE_NAME=$(grep -R "package_name:[[:space:]]*${PLUGIN_NAME}" | cut -f1 -d ':')
 319     if [ -z "$TYPEFILE_NAME" ]; then
 320       echo "!!! No typefile found with matching package name $PLUGIN_NAME"
 321       exit -1
 322     fi
 323     NEWFILENAME="${PLUGIN_NAME}"_types.yaml
 324     if [ "$TYPEFILE_NAME" != "$NEWFILENAME" ]; then
 325       echo "copy typefile to standard naming"
 326       cp -f "$TYPEFILE_NAME" "$NEWFILENAME"
 327     fi
 328
 329     TYPEFILE_PACKAGE_VERSION=$(grep -R 'package_version' $TYPEFILE_NAME |cut -f2 -d ':' |sed -r 's/\s+//g')
 330     WAGONFILE_NAME=$(ls -1 $PLUGIN_NAME-$TYPEFILE_PACKAGE_VERSION-*.wgn)
 331     if [ -z "$WAGONFILE_NAME" ]; then
 332       echo "!!! No wagonfile found with matching package name and version as required in typefile: "
 333       echo "    $TYPEFILE_NAME plugin $PLUGIN_NAME package version ${TYPEFILE_PACKAGE_VERSION}"
 334       exit -1
 335     fi
 336
 337     upload_raw_file "$NEWFILENAME" type_files/${PLUGIN_NAME}/${PLUGIN_VERSION_MAJOR}
 338     upload_raw_file "$NEWFILENAME" type_files/${PLUGIN_NAME}/${PLUGIN_VERSION_MAJOR_MINOR}
 339     upload_raw_file "${WAGONFILE_NAME}" "plugins/${PLUGIN_NAME}"
 340
 341     rm -r $WAGONFILE_NAME
 342     if [ "$TYPEFILE_NAME" != "$NEWFILENAME" ]; then
 343       rm -f "$NEWFILENAME"
 344     fi
 345   done
 346 }
 347
 348 upload_files_of_extension()
 349 {
 350   FILES=$(ls -1 ./*."$1")
 351   for F in $FILES ; do
 352     upload_raw_file "$F"
 353   done
 354 }
 355
 356
 357 generate_pypirc_then_publish()
 358 {
 359   set +x
 360   USER=$(xpath -e "//servers/server[id='$MVN_PYPISERVER_SERVERID']/username/text()" "$SETTINGS_FILE")
 361   PASS=$(xpath -e "//servers/server[id='$MVN_PYPISERVER_SERVERID']/password/text()" "$SETTINGS_FILE")
 362
 363   if [[ "$MVN_PYPISERVER_BASEURL" != */ ]]; then
 364     MVN_PYPISERVER_BASEURL="${MVN_PYPISERVER_BASEURL}/"
 365   fi
 366
 367
 368   cat > ~/.pypirc <<EOL
 369 [distutils]
 370 index-servers =
 371   $MVN_PYPISERVER_SERVERID
 372
 373 [$MVN_PYPISERVER_SERVERID]
 374 repository: $MVN_PYPISERVER_BASEURL
 375 username: $USER
 376 password: $PASS
 377 EOL
 378
 379   # this may fail if a package of same version exists
 380   python setup.py sdist register -r "$MVN_PYPISERVER_SERVERID" upload -r "$MVN_PYPISERVER_SERVERID"
 381   set -x
 382 }
 383
 384
 385
 386 build_and_push_docker()
 387 {
 388   IMAGENAME="onap/${FQDN}.${MVN_PROJECT_MODULEID}"
 389   IMAGENAME=$(echo "$IMAGENAME" | sed -e 's/_*$//g' -e 's/\.*$//g')
 390   IMAGENAME=$(echo "$IMAGENAME" | tr '[:upper:]' '[:lower:]')
 391
 392   # use the major and minor version of the MVN artifact version as docker image version
 393   VERSION="${MVN_PROJECT_VERSION//[^0-9.]/}"
 394   VERSION2=$(echo "$VERSION" | cut -f1-2 -d'.')
 395
 396   LFQI="${IMAGENAME}:${VERSION}-${TIMESTAMP}"
 397   # build a docker image
 398   docker build --rm -f ./Dockerfile -t "${LFQI}" ./
 399
 400   REPO=""
 401   if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 402      REPO=$MVN_DOCKERREGISTRY_SNASHOT
 403   elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 404      # there seems to be no staging docker registry?  set to use SNAPSHOT also
 405      REPO=$MVN_DOCKERREGISTRY_RELEASE
 406   else
 407      echo "Fail to determine DEPLOYMENT_TYPE"
 408      REPO=$MVN_DOCKERREGISTRY_SNAPSHOT
 409   fi
 410   echo "DEPLOYMENT_TYPE is: $MVN_DEPLOYMENT_TYPE, repo is $REPO"
 411
 412   if [ ! -z "$REPO" ]; then
 413     USER=$(xpath -e "//servers/server[id='$REPO']/username/text()" "$SETTINGS_FILE")
 414     PASS=$(xpath -e "//servers/server[id='$REPO']/password/text()" "$SETTINGS_FILE")
 415     if [ -z "$USER" ]; then
 416       echo "Error: no user provided"
 417     fi
 418     if [ -z "$PASS" ]; then
 419       echo "Error: no password provided"
 420     fi
 421     [ -z "$PASS" ] && PASS_PROVIDED="<empty>" || PASS_PROVIDED="<password>"
 422     echo docker login "$REPO" -u "$USER" -p "$PASS_PROVIDED"
 423     docker login "$REPO" -u "$USER" -p "$PASS"
 424
 425     if [ $MVN_DEPLOYMENT_TYPE == "SNAPSHOT" ]; then
 426       REPO="$REPO/snapshots"
 427     elif [ $MVN_DEPLOYMENT_TYPE == "STAGING" ]; then
 428       # there seems to be no staging docker registry?  set to use SNAPSHOT also
 429       #REPO=$MVN_DOCKERREGISTRY_RELEASE
 430       REPO="$REPO"
 431     else
 432       echo "Fail to determine DEPLOYMENT_TYPE"
 433       REPO="$REPO/unknown"
 434     fi
 435
 436     OLDTAG="${LFQI}"
 437     PUSHTAGS="${REPO}/${IMAGENAME}:${VERSION2}-${TIMESTAMP} ${REPO}/${IMAGENAME}:${VERSION2} ${REPO}/${IMAGENAME}:${VERSION2}-latest"
 438     for NEWTAG in ${PUSHTAGS}
 439     do
 440       echo "tagging ${OLDTAG} to ${NEWTAG}"
 441       docker tag "${OLDTAG}" "${NEWTAG}"
 442       echo "pushing ${NEWTAG}"
 443       docker push "${NEWTAG}"
 444       OLDTAG="${NEWTAG}"
 445     done
 446   fi
 447
 448 }
 449
 450
 451