a99258a48445716cfe1589246b85a0a8e859429c
[policy/apex-pdp.git] /
1 /*-
2  * ============LICENSE_START=======================================================
3  *  Copyright (C) 2016-2018 Ericsson. All rights reserved.
4  *  Modifications Copyright (C) 2019 Nordix Foundation.
5  * ================================================================================
6  * Licensed under the Apache License, Version 2.0 (the "License");
7  * you may not use this file except in compliance with the License.
8  * You may obtain a copy of the License at
9  *
10  *      http://www.apache.org/licenses/LICENSE-2.0
11  *
12  * Unless required by applicable law or agreed to in writing, software
13  * distributed under the License is distributed on an "AS IS" BASIS,
14  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
15  * See the License for the specific language governing permissions and
16  * limitations under the License.
17  *
18  * SPDX-License-Identifier: Apache-2.0
19  * ============LICENSE_END=========================================================
20  */
21
22 package org.onap.policy.apex.plugins.event.carrier.kafka;
23
24 import java.util.EnumMap;
25 import java.util.Map;
26 import java.util.Properties;
27
28 import org.apache.kafka.clients.consumer.ConsumerRecord;
29 import org.apache.kafka.clients.consumer.ConsumerRecords;
30 import org.apache.kafka.clients.consumer.KafkaConsumer;
31 import org.onap.policy.apex.core.infrastructure.threading.ApplicationThreadFactory;
32 import org.onap.policy.apex.core.infrastructure.threading.ThreadUtilities;
33 import org.onap.policy.apex.service.engine.event.ApexEventConsumer;
34 import org.onap.policy.apex.service.engine.event.ApexEventException;
35 import org.onap.policy.apex.service.engine.event.ApexEventReceiver;
36 import org.onap.policy.apex.service.engine.event.PeeredReference;
37 import org.onap.policy.apex.service.parameters.eventhandler.EventHandlerParameters;
38 import org.onap.policy.apex.service.parameters.eventhandler.EventHandlerPeeredMode;
39 import org.slf4j.Logger;
40 import org.slf4j.LoggerFactory;
41
42 /**
43  * This class implements an Apex event consumer that receives events using Kafka.
44  *
45  * @author Liam Fallon (liam.fallon@ericsson.com)
46  */
47 public class ApexKafkaConsumer implements ApexEventConsumer, Runnable {
48     // Get a reference to the logger
49     private static final Logger LOGGER = LoggerFactory.getLogger(ApexKafkaConsumer.class);
50
51     // The Kafka parameters read from the parameter service
52     private KafkaCarrierTechnologyParameters kafkaConsumerProperties;
53
54     // The event receiver that will receive events from this consumer
55     private ApexEventReceiver eventReceiver;
56
57     // The Kafka consumer used to receive events using Kafka
58     private KafkaConsumer<String, String> kafkaConsumer;
59
60     // The name for this consumer
61     private String name = null;
62
63     // The peer references for this event handler
64     private Map<EventHandlerPeeredMode, PeeredReference> peerReferenceMap = new EnumMap<>(EventHandlerPeeredMode.class);
65
66     // The consumer thread and stopping flag
67     private Thread consumerThread;
68     private boolean stopOrderedFlag = false;
69
70     /**
71      * {@inheritDoc}.
72      */
73     @Override
74     public void init(final String consumerName, final EventHandlerParameters consumerParameters,
75                     final ApexEventReceiver incomingEventReceiver) throws ApexEventException {
76         this.eventReceiver = incomingEventReceiver;
77         this.name = consumerName;
78
79         // Check and get the Kafka Properties
80         if (!(consumerParameters.getCarrierTechnologyParameters() instanceof KafkaCarrierTechnologyParameters)) {
81             LOGGER.warn("specified consumer properties of type \""
82                             + consumerParameters.getCarrierTechnologyParameters().getClass().getName()
83                             + "\" are not applicable to a Kafka consumer");
84             throw new ApexEventException("specified consumer properties of type \""
85                             + consumerParameters.getCarrierTechnologyParameters().getClass().getName()
86                             + "\" are not applicable to a Kafka consumer");
87         }
88         kafkaConsumerProperties = (KafkaCarrierTechnologyParameters) consumerParameters
89                         .getCarrierTechnologyParameters();
90
91         // Kick off the Kafka consumer
92         kafkaConsumer = new KafkaConsumer<>(kafkaConsumerProperties.getKafkaConsumerProperties());
93         kafkaConsumer.subscribe(kafkaConsumerProperties.getConsumerTopicListAsCollection());
94         if (LOGGER.isDebugEnabled()) {
95             LOGGER.debug("event receiver for " + this.getClass().getName() + ":" + this.name + " subscribed to topics: "
96                             + kafkaConsumerProperties.getConsumerTopicList());
97         }
98     }
99
100     /**
101      * {@inheritDoc}.
102      */
103     @Override
104     public void start() {
105         // Configure and start the event reception thread
106         final String threadName = this.getClass().getName() + ":" + this.name;
107         consumerThread = new ApplicationThreadFactory(threadName).newThread(this);
108         consumerThread.setDaemon(true);
109         consumerThread.start();
110     }
111
112     /**
113      * {@inheritDoc}.
114      */
115     @Override
116     public String getName() {
117         return name;
118     }
119
120     /**
121      * {@inheritDoc}.
122      */
123     @Override
124     public PeeredReference getPeeredReference(final EventHandlerPeeredMode peeredMode) {
125         return peerReferenceMap.get(peeredMode);
126     }
127
128     /**
129      * {@inheritDoc}.
130      */
131     @Override
132     public void setPeeredReference(final EventHandlerPeeredMode peeredMode, final PeeredReference peeredReference) {
133         peerReferenceMap.put(peeredMode, peeredReference);
134     }
135
136     /**
137      * {@inheritDoc}.
138      */
139     @Override
140     public void run() {
141         // Kick off the Kafka consumer
142         kafkaConsumer = new KafkaConsumer<>(kafkaConsumerProperties.getKafkaConsumerProperties());
143         kafkaConsumer.subscribe(kafkaConsumerProperties.getConsumerTopicListAsCollection());
144         if (LOGGER.isDebugEnabled()) {
145             LOGGER.debug("event receiver for " + this.getClass().getName() + ":" + this.name + " subscribed to topics: "
146                             + kafkaConsumerProperties.getConsumerTopicList());
147         }
148
149         // The endless loop that receives events over Kafka
150         while (consumerThread.isAlive() && !stopOrderedFlag) {
151             try {
152                 final ConsumerRecords<String, String> records = kafkaConsumer
153                                 .poll(kafkaConsumerProperties.getConsumerPollDuration());
154                 for (final ConsumerRecord<String, String> record : records) {
155                     traceIfTraceEnabled(record);
156                     eventReceiver.receiveEvent(new Properties(), record.value());
157                 }
158             } catch (final Exception e) {
159                 LOGGER.warn("error receiving events on thread {}", consumerThread.getName(), e);
160             }
161         }
162
163         if (!consumerThread.isInterrupted()) {
164             kafkaConsumer.close();
165         }
166     }
167
168     /**
169      * Trace a record if trace is enabled.
170      *
171      * @param record the record to trace
172      */
173     private void traceIfTraceEnabled(final ConsumerRecord<String, String> record) {
174         if (LOGGER.isTraceEnabled()) {
175             LOGGER.trace("event received for {} for forwarding to Apex engine : {} {}",
176                             this.getClass().getName() + ":" + this.name, record.key(), record.value());
177         }
178     }
179
180     /**
181      * {@inheritDoc}.
182      */
183     @Override
184     public void stop() {
185         stopOrderedFlag = true;
186
187         while (consumerThread.isAlive()) {
188             ThreadUtilities.sleep(kafkaConsumerProperties.getConsumerPollTime());
189         }
190     }
191 }