Вопросы по теме 'spring-kafka'

Задержка потребителя сообщения Spring kafka
Я использую Spring kafka 1.0.3 для сообщения потребителя kafka. 2 темы в кафке и каждая тема имеет 1 раздел. В java-коде есть 2 @KafkaListener для потребителя каждого сообщения темы. Параллелизм ConcurrentKafkaListenerContainerFactory установлен на...
1680 просмотров
schedule 13.11.2023

Контракт Spring Cloud с Spring Kafka
Поддерживает ли Spring Cloud Contract проверку контракта сообщений Spring Kafka из коробки?
1990 просмотров
schedule 19.09.2022

Spring Integration Kafka не работает
Я пытаюсь изучить Spring Integration, используя Kafka и Spring Boot. Я следую этому руководству Интеграция Spring и Kafka Я использую зависимости, представленные в этом документе, но получаю следующее исключение Caused by:...
700 просмотров

Тип серилизатора, необходимый для отправки ProducerRecord в Kafka
Я использую весеннюю кафку (KafkaTemplate) для отправки строковых сообщений. Но чтобы сделать его совместимым со старым кодом, мне нужно добавить в сообщение дополнительный CorrelationId. поэтому я создаю объект ProducerRecord со своим сообщением в...
492 просмотров
schedule 14.11.2023

повторно обработать сообщения maprstream с помощью Spring интеграции kafka
Это связано с потоком , и я использую spring-integration-kafka 2.0 для получения сообщений из тем потока mapr. Я столкнулся с трудностями при использовании функция KafkaConsumer - повторная обработка сообщений maprstream - с использованием...
199 просмотров

Kafka - несколько потребителей, которые слушают несколько тем
Мы работаем над приложением, в котором хотим слушать более одной темы в Kafka. Все темы имеют единый раздел. Все названия тем будут иметь общий префикс, например "test-x", "test-y", поэтому мы можем использовать для этого spring topicPattern ....
1904 просмотров

Кафка отмечает координатора мертвым, когда включено автомасштабирование
Мы запускаем кластер Kubernetes с Kafka 0.10.2. В кластере у нас есть набор реплик из 10 реплик, запускающих одну из наших служб, которые используют одну тему как одну группу потребителей. Недавно мы включили функцию автомасштабирования для этого...
289 просмотров

Как написать модульный тестовый пример для добавления обратного вызова для ListenableFuture
Я пытаюсь написать пример модульного теста для ListenableFuture с добавлением обратного вызова, но я не уверен, как это сделать. Ничего полезного в инете не нашла. @Test public void can_publish_data_to_kafka() { String topic =...
7640 просмотров

репозиторий spring jpa crud извлекает старые данные из БД в многопоточной среде
Я запускаю приложение весенней загрузки с базой данных mysql и kafka в качестве службы обмена сообщениями (выполняла синхронизацию транзакций с использованием chainedKafkaTransactionManager для kafka и mysql) для некоторых асинхронных операций....
337 просмотров

Отключить подключение и создание потребителей в spring-kafka
Я написал простую конфигурацию kafka и потребительский класс, как показано ниже: Потребитель: @Service public class KafkaConsumer { /** * This consumer listens for policy download acknowledgements. * * @param downloadAck...
1230 просмотров
schedule 07.11.2023

Как выполнить повторную попытку с сохранением состояния с пакетным слушателем Spring Kafka
Я читаю документы здесь https://docs.spring.io/spring-kafka/docs/2.2.6.RELEASE/reference/html/#retrying-deliveries , и я не могу понять, как правильно реализовать повторную попытку с отслеживанием состояния с пакетный слушатель В документации...
1436 просмотров

springBoot ConcurrentKafkaListenerContainerFactory что делать, если нисходящий поток не работает?
Я немного озадачен ConcurrentKafkaListenerContainerFactory и setErrorHandler(org.springframework.kafka.listener.ErrorHandler) Не могли бы вы дать мне совет? Мне нужно передать сообщение Kafka во внешнюю систему. Сейчас ErrorHandler...
66 просмотров
schedule 29.04.2024

с помощью руководства Kafka подтвердите получение исключения Kafka Listner: фиксация не может быть завершена иногда
У нас есть Kafka Consumer (параллелизм 5) с ручным подтверждением. В приведенной ниже реализации иногда возникает исключение Фиксация не может быть завершена, поскольку группа уже перебалансирована ... В сценарии исключения сообщение не...
309 просмотров

Шифрование и расшифровка сообщений с помощью Spring Kafka
Я использую Spring Kafka, и одна из тем содержит сообщения с личными данными. Можно ли каким-либо образом настроить Spring Kafka для автоматического шифрования сообщений в Producer/расшифровке сообщений в потребителе, или мне придется делать это...
473 просмотров
schedule 19.12.2023

Сбой сборки тестов Spring Boot / Jhipster Integration для потребителя Kafka
Я пытаюсь написать интеграционные тесты для своего приложения, которое содержит слушателя кафки. Но приложение не запускается из-за ошибки, указанной ниже. Я не могу показать весь код, так как это часть моей работы. Но это очень простой компонент...
422 просмотров

Несколько KafkaListener / Одна тема
Я использую spring-kafka 2.2.12, и я только начинаю. Я хочу управлять созданием / обновлением бизнес-структур через kafka. По возможности в той же теме, чтобы гарантировать порядок (предоставив бизнес-ключ). Поскольку это не те же типы java...
148 просмотров
schedule 05.03.2024

Инструмент cli производителя kafka для Linux с циклическим перебором
У меня есть рабочий в spring -boot, который слушает тему kafka с 20 разделами. Я создал следующего слушателя: @KafkaListener(topics = "mytopic") public void listen(@Payload(required = true) IncomingMessage msg,...
164 просмотров

Невозможно опросить / получить все записи из темы kafka
Я пытаюсь опросить данные из определенной темы, например, kafka получает 100 записей / с, но большую часть времени он не извлекает все записи. Я использую тайм-аут 5000 мс и вызываю этот метод каждые 100ms Примечание: я тоже подписываюсь на...
508 просмотров

Как масштабировать потребительские приложения kafka по одной теме с более чем одним воркером (одинаковое количество разделов)
Я хотел бы понять, как масштабировать приложение (более нескольких экземпляров), получающее сообщения от Kafka по той же теме. Я сомневаюсь, что у меня есть тема A с 4 разделами, и я создаю @KafkaListener с атрибутом concurrency = 4 и groupId =...
570 просмотров

Apache Kafka: 3 раздела, 3 потребителя в группе потребителей, каждый потребитель должен быть многопоточным
Допустим, в Apache Kafka есть тема с 3 разделами. Мне нужно запустить 3 потребителя внутри группы потребителей, и, согласно документации, это означает, что каждый потребитель будет читать данные из 1 раздела. Потребители реализованы с...
156 просмотров