Я получаю это исключение
org.apache.kafka.common.protocol.types.SchemaException
пока кафка перебалансирует
Это детали:
Использование концентраторов событий Azure. Доступ к нему с помощью API kafka
"Kafka Enabled" = да, на лазурном портале
использование: группа компиляции: «org.apache.kafka», имя: «kafka-clients», версия: «1.0.2»
Использование потребительской группы
Properties properties = new Properties();
properties.put(SaslConfigs.SASL_MECHANISM, "PLAIN");
properties.put(SaslConfigs.SASL_JAAS_CONFIG, saslJaasConfig);
properties.put(CommonClientConfigs.SECURITY_PROTOCOL_CONFIG, "SASL_SSL");
properties.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, String.format("%s.servicebus.windows.net:9093", this.namespace));
properties.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, LongDeserializer.class.getName());
properties.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, MeasurementDeSerializer.class.getName());
properties.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 120000);
properties.put(ConsumerConfig.GROUP_ID_CONFIG, this.groupName);
properties.put(ConsumerConfig.CLIENT_ID_CONFIG, clientId);
У меня 2 клиента на 2 разных компах
Когда они оба запускаются, каждый получает 16 разделов из 32 доступных разделов.
Когда я отключаю один из них, все части перебалансируются на другой.
на экземпляре, который все еще работает, я получу:
Разделы отозваны [16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31]
Затем из цикла пула я получу это исключение:
org.apache.kafka.common.protocol.types.SchemaException: ошибка чтения поля 'leader_id': длина строки -1 не может быть отрицательной на org.apache.kafka.common.protocol.types.Schema.read(Schema.java:76) на org.apache.kafka.common.protocol.ApiKeys.parseResponse(ApiKeys.java:279) в org.apache.kafka.clients.NetworkClient.parseStructMaybeUpdateThrottleTimeMetrics(NetworkClient.java:586) в org.apache.kafka.clients.NetworkClient.handleCompletedReceives(NetworkClient.java:686) на org.apache.kafka.clients.NetworkClient.poll(NetworkClient.java:469) на org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:258) на org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:230) на org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:190) на org.apache.kafka.clients.consumer.internals.AbstractCoordinator.joinGroupIfNeeded(AbstractCoordinator.java:364) в org.apache.kafka.clients.consumer.internals.AbstractCoordinator.ensureActiveGroup(AbstractCoordinator.java:316) на org.apache.kafka.clients.consumer.internals.ConsumerCoordinator.poll(ConsumerCoordinator.java:295) на org.apache.kafka.clients.consumer.KafkaConsumer.pollOnce(KafkaConsumer.java:1146) на org.apache.kafka.clients.consumer.KafkaConsumer.poll(KafkaConsumer.java:1111)
С другой стороны, при движении в другую сторону проблем нет.
Запустить первый экземпляр
Экземпляр 1 получает все 32 раздела
Запустить экземпляр 2
Начинается ребалансировка
Экземпляр 1 теряет 16 деталей
экземпляр 2 получает 16 частей
Любая идея, что может вызвать это исключение?

Для будущих читателей - проблема исправлена. https://github.com/Azure/azure-event-hubs-for-kafka/issues/41