Criar replicações de mensagem e tópico do Kafka no Stream Connect
Configure replicações de mensagem e tópico para replicar dados entre o ambiente Apache Kafka e ServiceNowo .
Antes de Iniciar
- Função necessária: message_replication_admin
- Este recurso requer uma assinatura. Para obter mais informações, consulte Usando Stream Connect para Apache Kafka.
- Verifique se o Serviço de envio de mensagens Hermes e o Gerador de certificado PKI de instância estão funcionando.
- Check the status of and connection to the Hermes Kafka cluster.
- Verifique o Key Management Framework Health para verificar se todos os três itens na seção PKI da instância estão operacionais.
- Configure e inicie um MID Server. Para obter mais informações, consulte Configuring MID Servers. O MID Server deve ser capaz de acessar Hermes endpoints por meio do firewall. Trabalhe com o administrador da rede para garantir que os seguintes intervalos de portas estejam abertos.
- Produtor: 4000–4050
- Consumidor1: 4100–4150
- Consumidor2: 4200–4250
- A replicação de mensagem de conexão de fluxo usa um alias de conexão e credencial para se conectar ao Kafka local. Create a Connection & Credential alias com um tipo de conexãoKafka. Um alias de conexão e credencial requer uma conexão do Kafka e uma credencial SSL do Kafka.
- A replicação de mensagens de conexão de fluxo requer o plug-in ServiceNow Stream Connect Installer [com.glide.hub.stream_connect.installer].
Por Que e Quando Desempenhar Esta Tarefa
Esta página mostra como criar um registro de replicação de mensagem e um registro de replicação de tópico Kafka associado.
Um registro de replicação de mensagem representa um único cluster Kafka. Por exemplo, se você tiver dois clusters Kafka, crie dois registros de replicação de mensagens diferentes, um para cada cluster. Um registro de replicação de mensagem é o registro primário de todos os tópicos que estão sendo replicados de ou para esse cluster. Os registros de replicação de mensagem são armazenados na tabela Replicações de mensagem [sys_sc_message_replication].
Um registro de Replicação de tópico do Kafka especifica a replicação de um único tópico de origem para um único tópico de destino. Você não pode replicar um único tópico de origem para vários destinos. Você só pode replicar para cada destino uma vez. Os registros de Replicação de tópico do Kafka são armazenados na tabela Replicações de tópico do Kafka [sys_kafka_topic_replication].
Procedimento
Resultado
Depois de criar todos os registros de replicação de mensagens e tópicos, as mensagens devem ser replicadas. Você pode verificar os campos Status e Mensagem de erro no registro de Replicação de mensagem para obter um status geral de como a replicação está funcionando.
Você também pode verificar os campos Status e Mensagem de erro em cada registro de Replicação de tópico Kafka individual para o status de uma replicação de tópico específica.
Cada registro de replicação de tópico do Kafka também tem uma lista relacionada chamada Estatísticas de replicação de mensagem. Depois que as replicações estiverem em execução, esta lista exibirá registros de métricas, que são criados a cada 60 segundos para cada replicação de tópico. Cada registro de métrica tem informações sobre a replicação do tópico, incluindo a Contagem de mensagens, que mostra o número de mensagens replicadas em cada intervalo de coleta.
O que Fazer Depois
Se você estiver replicando mensagens do seu Kafka local para ServiceNow, poderá configurar um consumidor de Script, ETLou Mapa de transformação para processar as mensagens ou configurar um gatilho de Mensagem do Kafka para iniciar um fluxo.
Se você estiver replicando mensagens de ServiceNow para o Kafka local, poderá usar um Kafka Producer step em Workflow Studio ou usar a API ProducerV2 para publicar mensagens no tópico Hermes e no Kafka local.