API S3P documentation
[policy/parent.git] / docs / development / devtools / api-s3p.rst
index 55867b4..12c3a51 100644 (file)
@@ -19,13 +19,13 @@ Introduction
 
 The 72 hour stability test of policy API has the goal of verifying the stability of running policy design API REST
 service by ingesting a steady flow of transactions in a multi-threaded fashion to
-simulate multiple clients' behaviors.
+simulate multiple clients' behaviours.
 All the transaction flows are initiated from a test client server running JMeter for the duration of 72 hours.
 
 Setup Details
 -------------
 
-The stability test was performed on a default ONAP OOM installation in the Intel Wind River Lab environment.
+The stability test was performed on a default ONAP OOM installation in the Nordix Lab environment.
 JMeter was installed on a separate VM to inject the traffic defined in the
 `API stability script
 <https://git.onap.org/policy/api/tree/testsuites/stability/src/main/resources/testplans/policy_api_stability.jmx>`_
@@ -33,15 +33,16 @@ with the following command:
 
 .. code-block:: bash
 
-    jmeter.sh --nongui --testfile policy_api_stability.jmx --logfile result.jtl
+    nohup apache-jmeter-5.5/bin/jmeter -n -t policy_api_stability.jmx -l stabilityTestResultsPolicyApi.jtl &
 
+The test was run in the background via “nohup” and “&”, to prevent it from being interrupted.
 
 Test Plan
 ---------
 
 The 72+ hours stability test will be running the following steps sequentially
 in multi-threaded loops. Thread number is set to 5 to simulate 5 API clients'
-behaviors (they can be calling the same policy CRUD API simultaneously).
+behaviours (they can be calling the same policy CRUD API simultaneously).
 Each thread creates a different version of the policy types and policies to not
 interfere with one another while operating simultaneously.  The point version
 of each entity is set to the running thread number.
@@ -64,12 +65,13 @@ of each entity is set to the running thread number.
 - Get All Policy Types
 - Get All Versions of the new Monitoring Policy Type
 - Get Version 6.0.# of the new Monitoring Policy Type
-- Get Version 6.0.# of the new Optimzation Policy Type
+- Get Version 6.0.# of the new Optimization Policy Type
 - Get Version 6.0.# of the new Guard Policy Type
 - Get Version 6.0.# of the new Native APEX Policy Type
 - Get Version 6.0.# of the new Native Drools Policy Type
 - Get Version 6.0.# of the new Native XACML Policy Type
 - Get the Latest Version of the New Monitoring Policy Type
+- Create Version 6.0.# of Node Template
 - Create Monitoring Policy Ver 6.0.# w/Monitoring Policy Type Ver 6.0.#
 - Create Monitoring Policy Ver 7.0.# w/Monitoring Policy Type Ver 7.0.#
 - Create Optimization Policy Ver 6.0.# w/Optimization Policy Type Ver 6.0.#
@@ -77,8 +79,12 @@ of each entity is set to the running thread number.
 - Create Native APEX Policy Ver 6.0.# w/Native APEX Policy Type Ver 6.0.#
 - Create Native Drools Policy Ver 6.0.# w/Native Drools Policy Type Ver 6.0.#
 - Create Native XACML Policy Ver 6.0.# w/Native XACML Policy Type Ver 6.0.#
+- Create Version 6.0.# of PNF Example Policy with Metadata
+- Get Node Template
+- Get All TCA Policies
+- Get All Versions of Monitoring Policy Type
 - Get Version 6.0.# of the new Monitoring Policy
-- Get Version 6.0.# of the new Optimzation Policy
+- Get Version 6.0.# of the new Optimization Policy
 - Get Version 6.0.# of the new Guard Policy
 - Get Version 6.0.# of the new Native APEX Policy
 - Get Version 6.0.# of the new Native Drools Policy
@@ -86,9 +92,10 @@ of each entity is set to the running thread number.
 - Get the Latest Version of the new Monitoring Policy
 - Delete Version 6.0.# of the new Monitoring Policy
 - Delete Version 7.0.# of the new Monitoring Policy
-- Delete Version 6.0.# of the new Optimzation Policy
+- Delete Version 6.0.# of the new OptimizationPolicy
 - Delete Version 6.0.# of the new Guard Policy
 - Delete Version 6.0.# of the new Native APEX Policy
+- Delete Version 6.0.# of PNF Example Policy having Metadata
 - Delete Version 6.0.# of the new Native Drools Policy
 - Delete Version 6.0.# of the new Native XACML Policy
 - Delete Monitoring Policy Type with Version 6.0.#
@@ -98,6 +105,8 @@ of each entity is set to the running thread number.
 - Delete Native APEX Policy Type with Version 6.0.#
 - Delete Native Drools Policy Type with Version 6.0.#
 - Delete Native XACML Policy Type with Version 6.0.#
+- Delete Node Template
+- Get Policy Metrics
 
 **TearDown Thread (will only be running after API Test Flow is completed)**
 
@@ -118,18 +127,31 @@ The load was performed against a non-tweaked ONAP OOM installation.
 =======================  =============  ===========  ===============================  ===============================  ===============================
 **Total # of requests**  **Success %**    **TPS**    **Avg. time taken per request**  **Min. time taken per request**  **Max. time taken per request**
 =======================  =============  ===========  ===============================  ===============================  ===============================
-    627746                    100%         2.42              2058 ms                               26 ms                          72809 ms
+    950839                    100%         3.67              1351 ms                               126 ms                          16324 ms
 =======================  =============  ===========  ===============================  ===============================  ===============================
 
-.. image:: images/api-s3p-jm-1_H.png
+.. image:: api-s3p-results/api-s3p-jm-1_J.png
 
 **JMeter Results**
 
 The following graphs show the response time distributions.   The "Get Policy Types" API calls are the most expensive calls that
-average a 10 seconds plus response time.
+average a 13 seconds plus response time.
 
-.. image:: images/api-response-time-distribution_H.png
-.. image:: images/api-response-time-overtime_H.png
+.. image:: api-s3p-results/api-response-time-distribution_J.png
+.. image:: api-s3p-results/api-response-time-overtime_J.png
+
+**Memory and CPU usage**
+
+The memory and CPU usage can be monitored by running "top" command in the policy-api pod.
+A snapshot is taken before and after test execution to monitor the changes in resource utilization.
+
+Memory and CPU usage before test execution:
+
+.. image:: api-s3p-results/api_top_before_72h.png
+
+Memory and CPU usage after test execution:
+
+.. image:: api-s3p-results/api_top_after_72h.png
 
 
 Performance Test of Policy API
@@ -143,22 +165,23 @@ Performance test of policy-api has the goal of testing the min/avg/max processin
 Setup Details
 -------------
 
-The performance test was performed on a default ONAP OOM installation in the Intel Wind River Lab environment.
+The performance test was performed on a default ONAP OOM installation in the Nordix Lab environment.
 JMeter was installed on a separate VM to inject the traffic defined in the
-`API performace script
+`API performance script
 <https://git.onap.org/policy/api/tree/testsuites/performance/src/main/resources/testplans/policy_api_performance.jmx>`_
 with the following command:
 
 .. code-block:: bash
 
-    jmeter.sh --nongui --testfile policy_api_performance.jmx --logfile result.jtl
+    nohup apache-jmeter-5.5/bin/jmeter -n -t policy_api_performance.jmx -l performanceTestResultsPolicyApi.jtl &
 
+The test was run in the background via “nohup” and “&”, to prevent it from being interrupted.
 
 Test Plan
 ---------
 
 Performance test plan is the same as stability test plan above.
-Only differences are, in performance test, we increase the number of threads up to 20 (simulating 20 users' behaviors at the same time) whereas reducing the test time down to 2.5 hours.
+Only differences are, in performance test, we increase the number of threads up to 20 (simulating 20 users' behaviours at the same time) whereas reducing the test time down to 2.5 hours.
 
 Run Test
 --------
@@ -170,18 +193,18 @@ Running/Triggering performance test will be the same as stability test. That is,
 =======================  =============  ===========  ===============================  ===============================  ===============================
 **Total # of requests**  **Success %**    **TPS**    **Avg. time taken per request**  **Min. time taken per request**  **Max. time taken per request**
 =======================  =============  ===========  ===============================  ===============================  ===============================
-    4082                     100%           0.45              1297 ms                              4 ms                          63612 ms
+    16212                     100%           1.8              11109 ms                              162 ms                          237265 ms
 =======================  =============  ===========  ===============================  ===============================  ===============================
 
-.. image:: images/api-s3p-jm-2_H.png
+.. image:: api-s3p-results/api-s3p-jm-2_J.png
 
 Test Results
 ------------
 
 The following graphs show the response time distributions.
 
-.. image:: images/api-response-time-distribution_performance_H.png
-.. image:: images/api-response-time-overtime_performance_H.png
+.. image:: api-s3p-results/api-response-time-distribution_performance_J.png
+.. image:: api-s3p-results/api-response-time-overtime_performance_J.png