Merge "[GENERAL] Add Andreas Geissler as committer."
[oom/offline-installer.git] / build / docker-entrypoint.sh
index b3306e2..d6f526d 100755 (executable)
@@ -1,6 +1,8 @@
 #!/usr/bin/env bash
 
-# Set type of distribution where script is running
+set -eo pipefail
+
+# Set distribution family
 distro_type=$(cat /etc/*-release | grep -w "ID" | awk -F'=' '{ print $2 }' | tr -d '"')
 case "$distro_type" in
         ubuntu)
@@ -15,37 +17,40 @@ case "$distro_type" in
         ;;
 esac
 
-# Path where will be created repository (in container)
+# Target path for created repository
 OFFLINE_REPO_DIR=""
 
-# Path where is stored onap_rpm.list and onap_deb.list file
+# Path to directory containing onap_rpm.list and onap_deb.list files
 PCKG_LIST_DIR=""
 
-# Path where is stored additional packages lists
+# Path to additional packages lists
 ADD_LIST_DIR=""
 
-# Show help for using this script
+# Use cache by default
+drop_cache=false
+
+# Show help
 help () {
 cat <<EOF
-Docker entrypoint script for creating RPM/DEB repository based on linux distribution where script is running
+Docker entrypoint script for creating RPM/DEB repository based on container platform type
+
+usage: create-repo.sh [OPTION]...
 
-usage: create-repo.sh [-d|--directory output directory] [-l|--list input rpm/deb list directory] [-a|--additional-lists list1.list]
--h --help: Show this help
--d --directory: set path for repo directory in container
--l --list: set path where rpm or deb list is stored in container
--a --additional-list: add name of additional packages list
-                      can be used multiple times for more additional lists
--p --packages-lists-path: set path for other additional packages lists
+  -d | --directory              target repository path
+  -l | --list                   input rpm/deb list directory
+  -a | --additional-list        additional packages list; can be used multiple times
+  -p | --packages-lists-path    other additional packages lists
+  -r | --drop-cache             remove cached packages (use package cache by default)
+  -h | --help                   show this help
 
 Both paths have to be set with shared volume between
-container and host computer. Default path in container is: /tmp/
+container and the host. Default path in container is: /tmp/
 Repository will be created at: /<path>/resources/pkg/rhel/
 RMP/DEB list is stored at: ./data_list/
 EOF
 }
 
-# Getting input parametters
-POSITIONAL=()
+# Getting input parameters
 if [[ $# -eq 0 ]] ; then
     help # show help
     exit 0
@@ -54,28 +59,36 @@ while [[ $# -gt 0 ]]
 do
     case "$1" in
         -h|--help)
-            # Help parametter
+            # Help parameter
             help # show help
             exit
             ;;
         -d|--directory)
-            # Directory parametter
-            # Sets path where will be created reposity
+            # Directory parameter
+            # Set target reposity path
             OFFLINE_REPO_DIR="$2"
+            shift
             ;;
         -l|--list)
-            # List parametter
-            # Sets path where is stored onap_rpm.list or onap_deb.list file
+            # List parameter
+            # Set path containing onap_rpm.list or onap_deb.list file
             PCKG_LIST_DIR="$2"
+            shift
             ;;
         -p|--packages-lists-path)
-            # Path parametter
-            # Sets path where is stored additional packages lists
+            # Path parameter
+            # Set path for additional packages lists
             ADD_LIST_DIR="$2"
+            shift
             ;;
         -a|--additional-list)
             # Array of additional packages lists
             ADDITIONAL_LISTS+=("$2")
+            shift
+            ;;
+        -r|--drop-cache)
+            # Set flag to clean cache
+            drop_cache=true
             ;;
         *)
             # unknown option
@@ -83,31 +96,34 @@ do
             exit
             ;;
     esac
-    shift;shift
+    shift
 done
 
-# Testing if directory parametter was used
-# If not variable is sets to default value:
-# /tmp/repo/resources/pkg/rpm
-# or
-# /tmp/repo/resources/pkg/deb
+# Testing if directory parameter was used
+# If not variable is set to /tmp/repo by default
 if test -z "$OFFLINE_REPO_DIR"
 then
     OFFLINE_REPO_DIR="/tmp/repo/"
 fi
 
-# Testing if list parametter was used
-# If not variable is sets to default value /tmp/offline/data-list
+# Testing if list parameter was used
+# If not variable is set to default value /tmp/offline/data-list
 if test -z "$PCKG_LIST_DIR"
 then
-    PCKG_LIST_DIR="/tmp/offline/data_list/"
+    PCKG_LIST_DIR="/tmp/offline/data_list"
 fi
 
-# Testing if additional packages list parametter was used
-# If not variable is sets to default value /tmp/additional-lists
+# Testing if additional packages list parameter was used
+# If not variable is set to default value /tmp/additional-lists
 if test -z "$PCKG_LIST_DIR"
 then
-    PCKG_LIST_DIR="/tmp/additional-lists/"
+    PCKG_LIST_DIR="/tmp/additional-lists"
+fi
+
+# Clean target repo dir if --drop-cache set
+if ${drop_cache};
+then
+    rm -rf ${OFFLINE_REPO_DIR}/*
 fi
 
 case "$distro_type" in
@@ -132,22 +148,54 @@ case "$distro_type" in
         # https://bugs.launchpad.net/ubuntu/+source/aptitude/+bug/1543280
         chown _apt $OFFLINE_REPO_DIR
 
-        # Download all packages from onap_deb.list via apt-get to repository folder
-        for i in $(cat ${PCKG_LIST_DIR}onap_deb.list | awk '{print $1}');do apt-get download $i -y; done
-        for i in $(cat ${PCKG_LIST_DIR}onap_deb.list | awk '{print $1}');
-                    do
-                    for depends in $(apt-cache depends $i | grep -E 'Depends' | cut -d ':' -f 2,3 | sed -e s/'<'/''/ -e s/'>'/''/);
-                        do apt-get download $depends -y;
-                    done;
-                done
+        # Create tmp file for package list
+        list_file=$(mktemp)
+
+        # Enumerate packages that are already downloaded
+        for package in $(cat ${PCKG_LIST_DIR}/onap_deb.list);
+        do
+            # If package name contains explicit version info cut the version string off for further processing
+            p=$(echo $package |sed -r 's/=.*//')
+            # Add package to download list only if it's not already there
+            if [ $(ls ${p}_*.deb 2>/dev/null | wc -l) -eq 0 ];
+            then
+                echo ${package} >> ${list_file}
+            fi
+        done
 
-        # Download all packages with dependecies from all additional packages lists via apt-get to repository folder
+        # Download all packages via apt-get to repository folder
+        for i in $(cat ${list_file});do apt-get download $i -y; done
+        for i in $(cat ${list_file});
+            do
+                for depends in $(apt-cache depends $i | grep -E 'Depends' | grep -v 'Depends:.*>$' | cut -d ':' -f 2,3 | sed -e s/'<'/''/ -e s/'>'/''/);
+                do
+                    apt-get download $depends -y;
+                done;
+            done
+
+        # Download all packages with dependencies from all additional packages lists via apt-get to repository folder
         if ! [ ${#ADDITIONAL_LISTS[@]} -eq 0 ]; then
             for list in ${ADDITIONAL_LISTS[@]}
             do
-                for i in $(cat ${ADD_LIST_DIR}$list | awk '{print $1}');do apt-get download $i -y; done
-                for i in $(cat ${ADD_LIST_DIR}$list | awk '{print $1}');
-                    do
+
+                # Create tmp file for package list
+                list_file=$(mktemp)
+
+                # Enumerate packages that are already downloaded
+                for package in $(cat ${ADD_LIST_DIR}/${list});
+                do
+                    # If package name contains explicit version info cut the version string off for further processing
+                    p=$(echo $package |sed -r 's/=.*//')
+                    # Add package to download list only if it's not already there
+                    if [ $(ls ${p}_*.deb 2>/dev/null | wc -l) -eq 0 ];
+                    then
+                        echo ${package} >> ${list_file}
+                    fi
+                done
+
+                for i in $(cat ${list_file});do apt-get download $i -y; done
+                for i in $(cat ${list_file});
+                do
                     for depends in $(apt-cache depends $i | grep -E 'Depends' | cut -d ':' -f 2,3 | sed -e s/'<'/''/ -e s/'>'/''/);
                         do apt-get download $depends -y;
                     done;
@@ -168,18 +216,46 @@ case "$distro_type" in
         # Add official docker repository
         yum-config-manager --add-repo=https://download.docker.com/linux/centos/7/x86_64/stable/
 
+        # Create tmp file for package list
+        list_file=$(mktemp)
+
+        # Enumerate packages that are already downloaded
+        for package in $(cat ${PCKG_LIST_DIR}/onap_rpm.list);
+        do
+            # Add package to download list only if it's not already there
+            if [ ! -f ${OFFLINE_REPO_DIR}/${package}.rpm ];
+            then
+                echo ${package} >> ${list_file}
+            fi
+        done
+
         # Download all packages from onap_rpm.list via yumdownloader to repository folder
-        for i in $(cat ${PCKG_LIST_DIR}onap_rpm.list | awk '{print $1}');do yumdownloader --resolve --downloadonly --destdir=${OFFLINE_REPO_DIR} $i -y; done
+        for i in $(cat ${list_file});do yumdownloader --resolve --downloadonly --destdir=${OFFLINE_REPO_DIR} $i -y; done
 
-        # Download all packages from all additional packages lists via apt-get to repository folder
+        # Download all packages from all additional packages lists via yumdownloader to repository folder
         if ! [ ${#ADDITIONAL_LISTS[@]} -eq 0 ]; then
             for list in ${ADDITIONAL_LISTS[@]}
             do
-                for i in $(cat ${ADD_LIST_DIR}$list | awk '{print $1}');do yumdownloader --resolve --downloadonly --destdir=${OFFLINE_REPO_DIR} $i -y; done
+                # Create tmp file for additional package list
+                list_file=$(mktemp)
+                # Enumerate packages that are already downloaded
+                for package in $(cat ${ADD_LIST_DIR}/${list});
+                do
+                    # Add package to download list only if it's not already there
+                    if [ ! -f ${OFFLINE_REPO_DIR}/${package}.rpm ];
+                    then
+                        echo ${package} >> ${list_file}
+                    fi
+                done
+
+                for i in $(cat ${list_file});
+                do
+                    yumdownloader --resolve --downloadonly --destdir=${OFFLINE_REPO_DIR} $i -y
+                done
             done
         fi
 
-        # In repository folder create repositor
+        # Create repository
         createrepo $OFFLINE_REPO_DIR
     ;;