sources/hv-collector-core/src/main/kotlin/org/onap/dcae/collectors/veshv/impl/adapters/kafka/KafkaSink.kt

   1 /*
   2  * ============LICENSE_START=======================================================
   3  * dcaegen2-collectors-veshv
   4  * ================================================================================
   5  * Copyright (C) 2018 NOKIA
   6  * ================================================================================
   7  * Licensed under the Apache License, Version 2.0 (the "License");
   8  * you may not use this file except in compliance with the License.
   9  * You may obtain a copy of the License at
  10  *
  11  *      http://www.apache.org/licenses/LICENSE-2.0
  12  *
  13  * Unless required by applicable law or agreed to in writing, software
  14  * distributed under the License is distributed on an "AS IS" BASIS,
  15  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16  * See the License for the specific language governing permissions and
  17  * limitations under the License.
  18  * ============LICENSE_END=========================================================
  19  */
  20 package org.onap.dcae.collectors.veshv.impl.adapters.kafka
  21
  22 import org.onap.dcae.collectors.veshv.boundary.Sink
  23 import org.onap.dcae.collectors.veshv.model.RoutedMessage
  24 import org.onap.dcae.collectors.veshv.model.VesMessage
  25 import org.onap.dcae.collectors.veshv.utils.logging.Logger
  26 import org.onap.ves.VesEventOuterClass.CommonEventHeader
  27 import reactor.core.publisher.Flux
  28 import reactor.core.publisher.Mono
  29 import reactor.kafka.sender.KafkaSender
  30 import reactor.kafka.sender.SenderRecord
  31 import reactor.kafka.sender.SenderResult
  32 import java.util.concurrent.atomic.AtomicLong
  33
  34 /**
  35  * @author Piotr Jaszczyk <piotr.jaszczyk@nokia.com>
  36  * @since May 2018
  37  */
  38 internal class KafkaSink(private val sender: KafkaSender<CommonEventHeader, VesMessage>) : Sink {
  39     private val sentMessages = AtomicLong(0)
  40
  41     override fun send(messages: Flux<RoutedMessage>): Flux<RoutedMessage> {
  42         val records = messages.map(this::vesToKafkaRecord)
  43         val result = sender.send(records)
  44                 .doOnNext {
  45                     if (it.isSuccessful()) {
  46                         Mono.just(it)
  47                     } else {
  48                         logger.warn(it.exception()) { "Failed to send message to Kafka" }
  49                         Mono.empty<SenderResult<RoutedMessage>>()
  50                     }
  51                 }
  52                 .map { it.correlationMetadata() }
  53
  54         return if (logger.traceEnabled) {
  55             result.doOnNext(::logSentMessage)
  56         } else {
  57             result
  58         }
  59     }
  60
  61     private fun vesToKafkaRecord(msg: RoutedMessage): SenderRecord<CommonEventHeader, VesMessage, RoutedMessage> {
  62         return SenderRecord.create(
  63                 msg.topic,
  64                 msg.partition,
  65                 System.currentTimeMillis(),
  66                 msg.message.header,
  67                 msg.message,
  68                 msg)
  69     }
  70
  71     private fun logSentMessage(sentMsg: RoutedMessage) {
  72         logger.trace {
  73             val msgNum = sentMessages.incrementAndGet()
  74             "Message #$msgNum has been sent to ${sentMsg.topic}:${sentMsg.partition}"
  75         }
  76     }
  77
  78     private fun SenderResult<out Any>.isSuccessful() = exception() == null
  79
  80     companion object {
  81         val logger = Logger(KafkaSink::class)
  82     }
  83 }