Add support for loading VNF Catalog XML files
[aai/model-loader.git] / src / main / java / org / onap / aai / modelloader / entity / catalog / VnfCatalogArtifactHandler.java
1 /**\r
2  * ============LICENSE_START=======================================================\r
3  * org.onap.aai\r
4  * ================================================================================\r
5  * Copyright © 2017-2018 AT&T Intellectual Property. All rights reserved.\r
6  * Copyright © 2017-2018 European Software Marketing Ltd.\r
7  * ================================================================================\r
8  * Licensed under the Apache License, Version 2.0 (the "License");\r
9  * you may not use this file except in compliance with the License.\r
10  * You may obtain a copy of the License at\r
11  *\r
12  *       http://www.apache.org/licenses/LICENSE-2.0\r
13  *\r
14  * Unless required by applicable law or agreed to in writing, software\r
15  * distributed under the License is distributed on an "AS IS" BASIS,\r
16  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.\r
17  * See the License for the specific language governing permissions and\r
18  * limitations under the License.\r
19  * ============LICENSE_END=========================================================\r
20  */\r
21 package org.onap.aai.modelloader.entity.catalog;\r
22 \r
23 import com.google.gson.Gson;\r
24 import com.google.gson.reflect.TypeToken;\r
25 import java.io.StringReader;\r
26 import java.net.URISyntaxException;\r
27 import java.util.ArrayList;\r
28 import java.util.HashMap;\r
29 import java.util.List;\r
30 import java.util.Map;\r
31 import java.util.Map.Entry;\r
32 import java.util.UUID;\r
33 import javax.ws.rs.core.MediaType;\r
34 import javax.ws.rs.core.Response;\r
35 import javax.xml.parsers.DocumentBuilder;\r
36 import javax.xml.parsers.DocumentBuilderFactory;\r
37 import org.apache.commons.text.StringEscapeUtils;\r
38 import org.apache.http.client.utils.URIBuilder;\r
39 import org.onap.aai.cl.api.Logger;\r
40 import org.onap.aai.cl.eelf.LoggerFactory;\r
41 import org.onap.aai.modelloader.config.ModelLoaderConfig;\r
42 import org.onap.aai.modelloader.entity.Artifact;\r
43 import org.onap.aai.modelloader.entity.ArtifactHandler;\r
44 import org.onap.aai.modelloader.restclient.AaiRestClient;\r
45 import org.onap.aai.modelloader.service.ModelLoaderMsgs;\r
46 import org.onap.aai.restclient.client.OperationResult;\r
47 import org.w3c.dom.Document;\r
48 import org.w3c.dom.Element;\r
49 import org.w3c.dom.Node;\r
50 import org.w3c.dom.NodeList;\r
51 import org.xml.sax.InputSource;\r
52 \r
53 /**\r
54  * VNF Catalog specific handling\r
55  */\r
56 public class VnfCatalogArtifactHandler extends ArtifactHandler {\r
57 \r
58     private static Logger logger = LoggerFactory.getInstance().getLogger(VnfCatalogArtifactHandler.class.getName());\r
59 \r
60     public static final String ATTR_UUID = "uuid";\r
61 \r
62     public VnfCatalogArtifactHandler(ModelLoaderConfig config) {\r
63         super(config);\r
64     }\r
65 \r
66     /*\r
67      * (non-Javadoc)\r
68      * \r
69      * @see org.openecomp.modelloader.entity.ArtifactHandler#pushArtifacts(java.util.List, java.lang.String)\r
70      */\r
71     @Override\r
72     public boolean pushArtifacts(List<Artifact> artifacts, String distributionId, List<Artifact> completedArtifacts,\r
73             AaiRestClient aaiClient) {\r
74         for (Artifact artifact : artifacts) {\r
75             try {\r
76                 distributeVnfcData(aaiClient, distributionId, artifact, completedArtifacts);\r
77             } catch (VnfImageException e) {\r
78                 if (e.getResultCode().isPresent()) {\r
79                     logger.error(ModelLoaderMsgs.DISTRIBUTION_EVENT_ERROR,\r
80                             "Ingestion failed on vnf-image " + e.getImageId() + " with status "\r
81                                     + e.getResultCode().orElse(0) + ". Rolling back distribution.");\r
82                 } else {\r
83                     logger.error(ModelLoaderMsgs.DISTRIBUTION_EVENT_ERROR,\r
84                             "Ingestion failed on " + e.getImageId() + ". Rolling back distribution.");\r
85                 }\r
86                 return false;\r
87             }\r
88         }\r
89 \r
90         return true;\r
91     }\r
92 \r
93     /*\r
94      * If something fails in the middle of ingesting the catalog we want to roll back any changes to the DB\r
95      */\r
96     @Override\r
97     public void rollback(List<Artifact> completedArtifacts, String distributionId, AaiRestClient aaiClient) {\r
98         for (Artifact completedArtifact : completedArtifacts) {\r
99             Map<String, String> data = new Gson().fromJson(completedArtifact.getPayload(),\r
100                     new TypeToken<Map<String, String>>() {}.getType());\r
101             String url = config.getAaiBaseUrl() + config.getAaiVnfImageUrl() + "/vnf-image/" + data.get(ATTR_UUID);\r
102             // Try to delete the image. If something goes wrong we can't really do anything here\r
103             aaiClient.getAndDeleteResource(url, distributionId);\r
104         }\r
105     }\r
106 \r
107     private void distributeVnfcData(AaiRestClient restClient, String distributionId, Artifact vnfcArtifact,\r
108             List<Artifact> completedArtifacts) throws VnfImageException {\r
109         List<Map<String, String>> vnfcData;\r
110         switch (vnfcArtifact.getType()) {\r
111             case VNF_CATALOG:\r
112                 vnfcData = unmarshallVnfcData(vnfcArtifact);\r
113                 break;\r
114             case VNF_CATALOG_XML:\r
115                 vnfcData = parseXmlVnfcData(vnfcArtifact);\r
116                 break;\r
117             default:\r
118                 throw new VnfImageException("Unsupported type " + vnfcArtifact.getType());\r
119         }\r
120         distributeVnfcData(restClient, distributionId, completedArtifacts, vnfcData);\r
121     }\r
122 \r
123     /**\r
124      * Build a VNF image from each of the supplied data items, and distribute to AAI\r
125      * \r
126      * @param restClient\r
127      * @param distributionId\r
128      * @param completedArtifacts\r
129      * @param vnfcData\r
130      * @throws VnfImageException\r
131      */\r
132     private void distributeVnfcData(AaiRestClient restClient, String distributionId, List<Artifact> completedArtifacts,\r
133             List<Map<String, String>> vnfcData) throws VnfImageException {\r
134         for (Map<String, String> dataItem : vnfcData) {\r
135             // If an empty dataItem is supplied, do nothing.\r
136             if (dataItem.isEmpty()) {\r
137                 logger.warn(ModelLoaderMsgs.DISTRIBUTION_EVENT, "Empty image data supplied, skipping ingestion.");\r
138                 continue;\r
139             }\r
140 \r
141             StringBuilder imageIdBuilder = new StringBuilder("vnf image");\r
142             for (Entry<String, String> entry : dataItem.entrySet()) {\r
143                 imageIdBuilder.append(" ").append(entry.getValue());\r
144             }\r
145             String imageId = imageIdBuilder.toString();\r
146             int resultCode = getVnfImage(restClient, distributionId, imageId, dataItem);\r
147 \r
148             if (resultCode == Response.Status.NOT_FOUND.getStatusCode()) {\r
149                 // This vnf-image is missing, so add it\r
150                 boolean success = putVnfImage(restClient, dataItem, distributionId);\r
151                 if (success) {\r
152                     completedArtifacts.add(new VnfCatalogArtifact(new Gson().toJson(dataItem)));\r
153                     logger.info(ModelLoaderMsgs.DISTRIBUTION_EVENT, imageId + " successfully ingested.");\r
154                 } else {\r
155                     throw new VnfImageException(imageId);\r
156                 }\r
157             } else if (resultCode == Response.Status.OK.getStatusCode()) {\r
158                 logger.info(ModelLoaderMsgs.DISTRIBUTION_EVENT, imageId + " already exists. Skipping ingestion.");\r
159             } else {\r
160                 // if other than 404 or 200, something went wrong\r
161                 throw new VnfImageException(imageId, resultCode);\r
162             }\r
163         }\r
164     }\r
165 \r
166     private int getVnfImage(AaiRestClient restClient, String distributionId, String imageId,\r
167             Map<String, String> dataItem) throws VnfImageException {\r
168         try {\r
169             URIBuilder b = new URIBuilder(config.getAaiBaseUrl() + config.getAaiVnfImageUrl());\r
170             for (Entry<String, String> entry : dataItem.entrySet()) {\r
171                 b.addParameter(entry.getKey(), entry.getValue());\r
172             }\r
173             OperationResult tryGet =\r
174                     restClient.getResource(b.build().toString(), distributionId, MediaType.APPLICATION_JSON_TYPE);\r
175             if (tryGet == null) {\r
176                 throw new VnfImageException(imageId);\r
177             }\r
178             return tryGet.getResultCode();\r
179         } catch (URISyntaxException ex) {\r
180             throw new VnfImageException(ex);\r
181         }\r
182     }\r
183 \r
184     private boolean putVnfImage(AaiRestClient restClient, Map<String, String> dataItem, String distributionId) {\r
185         // Generate a new UUID for the image data item\r
186         String uuid = UUID.randomUUID().toString();\r
187         dataItem.put(ATTR_UUID, uuid);\r
188 \r
189         String payload = new Gson().toJson(dataItem);\r
190         String putUrl = config.getAaiBaseUrl() + config.getAaiVnfImageUrl() + "/vnf-image/" + uuid;\r
191         OperationResult putResp =\r
192                 restClient.putResource(putUrl, payload, distributionId, MediaType.APPLICATION_JSON_TYPE);\r
193         return putResp != null && putResp.getResultCode() == Response.Status.CREATED.getStatusCode();\r
194     }\r
195 \r
196     private List<Map<String, String>> unmarshallVnfcData(Artifact vnfcArtifact) {\r
197         // Unmarshall Babel JSON payload into a List of Maps of JSON attribute name/values.\r
198         return new Gson().fromJson(StringEscapeUtils.unescapeJson(vnfcArtifact.getPayload()),\r
199                 new TypeToken<List<Map<String, String>>>() {}.getType());\r
200     }\r
201 \r
202     /**\r
203      * Parse the VNF Catalog XML and transform into Key/Value pairs.\r
204      * \r
205      * @param vnfcArtifact\r
206      * @return VNF Image data in Map form\r
207      * @throws VnfImageException\r
208      */\r
209     private List<Map<String, String>> parseXmlVnfcData(Artifact vnfcArtifact) throws VnfImageException {\r
210         List<Map<String, String>> vnfcData = new ArrayList<>();\r
211         try {\r
212             DocumentBuilderFactory factory = DocumentBuilderFactory.newInstance();\r
213             factory.setFeature("http://apache.org/xml/features/disallow-doctype-decl", true);\r
214             DocumentBuilder builder = factory.newDocumentBuilder();\r
215             InputSource is = new InputSource(new StringReader(vnfcArtifact.getPayload()));\r
216             Document doc = builder.parse(is);\r
217             doc.getDocumentElement().normalize();\r
218 \r
219             NodeList pnl = doc.getElementsByTagName("part-number-list");\r
220             for (int i = 0; i < pnl.getLength(); i++) {\r
221                 Node partNumber = pnl.item(i);\r
222                 if (partNumber.getNodeType() == Node.ELEMENT_NODE) {\r
223                     Element vendorInfo = getFirstChildNodeByName(partNumber, "vendor-info");\r
224                     if (vendorInfo != null) {\r
225                         Map<String, String> application = new HashMap<>();\r
226                         application.put("application",\r
227                                 vendorInfo.getElementsByTagName("vendor-model").item(0).getTextContent());\r
228                         application.put("application-vendor",\r
229                                 vendorInfo.getElementsByTagName("vendor-name").item(0).getTextContent());\r
230                         populateSoftwareVersions(vnfcData, application, partNumber);\r
231                     }\r
232                 }\r
233             }\r
234         } catch (Exception ex) {\r
235             throw new VnfImageException(ex);\r
236         }\r
237         return vnfcData;\r
238     }\r
239 \r
240     /**\r
241      * @param vnfcData to populate\r
242      * @param applicationData\r
243      * @param partNumber\r
244      */\r
245     private void populateSoftwareVersions(List<Map<String, String>> vnfcData, Map<String, String> applicationData,\r
246             Node partNumber) {\r
247         NodeList nodes = partNumber.getChildNodes();\r
248         for (int i = 0; i < nodes.getLength(); i++) {\r
249             Node childNode = nodes.item(i);\r
250             if (childNode.getNodeName().equalsIgnoreCase("software-version-list")) {\r
251                 Element softwareVersion = getFirstChildNodeByName(childNode, "software-version");\r
252                 if (softwareVersion != null) {\r
253                     HashMap<String, String> vnfImageData = new HashMap<>(applicationData);\r
254                     vnfImageData.put("application-version", softwareVersion.getTextContent());\r
255                     vnfcData.add(vnfImageData);\r
256                 }\r
257             }\r
258         }\r
259     }\r
260 \r
261     /**\r
262      * @param node\r
263      * @param childNodeName\r
264      * @return the first child node matching the given name\r
265      */\r
266     private Element getFirstChildNodeByName(Node node, String childNodeName) {\r
267         NodeList nodes = node.getChildNodes();\r
268         for (int i = 0; i < nodes.getLength(); i++) {\r
269             Node childNode = nodes.item(i);\r
270             if (childNode.getNodeName().equalsIgnoreCase(childNodeName)) {\r
271                 return (Element) childNode;\r
272             }\r
273         }\r
274         return null;\r
275     }\r
276 \r
277 }\r