Retry and Dead Letter Processing

当重试和延迟的总和超过消费者的 max.poll.interval.ms 属性,或者需要将死信发布到不同的 Kafka 集群,或者需要将重试监听器添加到错误处理程序时,就需要进行此移动。

文章提供了如何配置将这些功能从 Binder 移至容器的说明,包括如何定义 @Bean 和如何使用 BinderCustomizer 设置容器自定义器。

默认情况下,当你配置消费者绑定中的重试(例如,maxAttemts)和 enableDlq 时,这些函数将在 Binder 内执行,而侦听器容器或 Kafka 消费者不会参与。

在某些情况下,最好将此功能移至侦听器容器,例如:

  • 重试、延时的总和将超过消费者的 max.poll.interval.ms 属性,可能会导致分区重新平衡。

  • 您希望将死信发布到其他 Kafka 集群。

  • 您希望对错误处理程序中添加重试侦听器。

  • …​

要配置将此功能从 Binder 移至容器,请定义类型为 ListenerContainerWithDlqAndRetryCustomizer@Bean。此接口具有以下方法:

/**
 * Configure the container.
 * @param container the container.
 * @param destinationName the destination name.
 * @param group the group.
 * @param dlqDestinationResolver a destination resolver for the dead letter topic (if
 * enableDlq).
 * @param backOff the backOff using retry properties (if configured).
 * @see #retryAndDlqInBinding(String, String)
 */
void configure(AbstractMessageListenerContainer<?, ?> container, String destinationName, String group,
        @Nullable BiFunction<ConsumerRecord<?, ?>, Exception, TopicPartition> dlqDestinationResolver,
        @Nullable BackOff backOff);

/**
 * Return false to move retries and DLQ from the binding to a customized error handler
 * using the retry metadata and/or a {@code DeadLetterPublishingRecoverer} when
 * configured via
 * {@link #configure(AbstractMessageListenerContainer, String, String, BiFunction, BackOff)}.
 * @param destinationName the destination name.
 * @param group the group.
 * @return false to disable retries and DLQ in the binding
 */
default boolean retryAndDlqInBinding(String destinationName, String group) {
    return true;
}

目标解析器和 BackOff 是通过绑定属性(如果已配置)创建的。KafkaTemplate 使用 spring.kafka…​. 属性中的配置。然后,你可以使用它们创建自定义错误处理程序和死信发布者;例如:

@Bean
ListenerContainerWithDlqAndRetryCustomizer cust(KafkaTemplate<?, ?> template) {
    return new ListenerContainerWithDlqAndRetryCustomizer() {

        @Override
        public void configure(AbstractMessageListenerContainer<?, ?> container, String destinationName,
                String group,
                @Nullable BiFunction<ConsumerRecord<?, ?>, Exception, TopicPartition> dlqDestinationResolver,
                @Nullable BackOff backOff) {

            if (destinationName.equals("topicWithLongTotalRetryConfig")) {
                ConsumerRecordRecoverer dlpr = new DeadLetterPublishingRecoverer(template,
                        dlqDestinationResolver);
                container.setCommonErrorHandler(new DefaultErrorHandler(dlpr, backOff));
            }
        }

        @Override
        public boolean retryAndDlqInBinding(String destinationName, String group) {
            return !destinationName.contains("topicWithLongTotalRetryConfig");
        }

    };
}

现在,只需一个重试延迟需要大于消费者的 max.poll.interval.ms 属性。

与多个绑定一起工作时,“DefaultBinderFactory” 会覆盖 ListenerContainerWithDlqAndRetryCustomizer bean。要应用 Bean,你需要使用 BinderCustomizer 设置容器自定义器(参见 [binder-customizer]):

@Bean
public BinderCustomizer binderCustomizer(ListenerContainerWithDlqAndRetryCustomizer containerCustomizer) {
    return (binder, binderName) -> {
        if (binder instanceof KafkaMessageChannelBinder kafkaMessageChannelBinder) {
            kafkaMessageChannelBinder.setContainerCustomizer(containerCustomizer);
        }
        else if (binder instanceof KStreamBinder) {
            ...
        }
        else if (binder instanceof RabbitMessageChannelBinder) {
            ...
        }
    };
}