gerrit.onap Code Review - dcaegen2/collectors/hv-ves.git/blob

   1 /*
   2  * ============LICENSE_START=======================================================
   3  * dcaegen2-collectors-veshv
   4  * ================================================================================
   5  * Copyright (C) 2018 NOKIA
   6  * ================================================================================
   7  * Licensed under the Apache License, Version 2.0 (the "License");
   8  * you may not use this file except in compliance with the License.
   9  * You may obtain a copy of the License at
  10  *
  11  *      http://www.apache.org/licenses/LICENSE-2.0
  12  *
  13  * Unless required by applicable law or agreed to in writing, software
  14  * distributed under the License is distributed on an "AS IS" BASIS,
  15  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16  * See the License for the specific language governing permissions and
  17  * limitations under the License.
  18  * ============LICENSE_END=========================================================
  19  */
  20 package org.onap.dcae.collectors.veshv.simulators.dcaeapp.kafka
  21
  22 import org.apache.kafka.clients.consumer.ConsumerConfig
  23 import org.apache.kafka.common.serialization.ByteArrayDeserializer
  24 import org.onap.dcae.collectors.veshv.utils.logging.Logger
  25 import reactor.core.publisher.Mono
  26 import reactor.kafka.receiver.KafkaReceiver
  27 import reactor.kafka.receiver.ReceiverOptions
  28 import reactor.kafka.receiver.ReceiverRecord
  29 import java.util.*
  30 import java.util.concurrent.atomic.AtomicLong
  31
  32 /**
  33  * @author Piotr Jaszczyk <piotr.jaszczyk@nokia.com>
  34  * @since May 2018
  35  */
  36 class KafkaSource(private val receiver: KafkaReceiver<ByteArray, ByteArray>) {
  37
  38     private val consumedMessages = AtomicLong(0)
  39
  40     fun start(): Mono<Void> = Mono.create { sink ->
  41         receiver.doOnConsumer { it.subscription() }.subscribe({ sink.success() }, sink::error)
  42         receiver.receive().subscribe(this::update)
  43     }
  44
  45     fun consumedMessages() = consumedMessages.get()
  46
  47     private fun update(record: ReceiverRecord<ByteArray, ByteArray>) {
  48         consumedMessages.incrementAndGet()
  49     }
  50
  51     companion object {
  52         private val logger = Logger(KafkaSource::class)
  53
  54         fun create(bootstrapServers: String, topics: Set<String>): KafkaSource {
  55             val props = HashMap<String, Any>()
  56             props[ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG] = bootstrapServers
  57             props[ConsumerConfig.CLIENT_ID_CONFIG] = "hv-collector-dcae-app-simulator"
  58             props[ConsumerConfig.GROUP_ID_CONFIG] = "hv-collector-simulators"
  59             props[ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG] = ByteArrayDeserializer::class.java
  60             props[ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG] = ByteArrayDeserializer::class.java
  61             props[ConsumerConfig.AUTO_OFFSET_RESET_CONFIG] = "earliest"
  62             val receiverOptions = ReceiverOptions.create<ByteArray, ByteArray>(props)
  63                     .addAssignListener { partitions -> logger.debug { "onPartitionsAssigned $partitions" } }
  64                     .addRevokeListener { partitions -> logger.debug { "onPartitionsRevoked $partitions" } }
  65                     .subscription(topics)
  66             return KafkaSource(KafkaReceiver.create(receiverOptions))
  67         }
  68     }
  69 }