Apache Kafka 简明教程
Apache Kafka - Consumer Group Example
消费者组是从 Kafka 主题进行多线程或多机器消费。
Consumer Group
-
消费者可以通过使用相同的组 ID 来加入组。
-
组的最大并行度是，组中的消费者数量 ← 分区数量。
-
Kafka 将主题的分区分配给组中的消费者，以便该组中的一个消费者切实消耗每个分区。
-
Kafka 保证消息仅由组中的一个消费者读取。
-
消费者可以看到消息与其存储在日志中的顺序。
Re-balancing of a Consumer
添加更多进程/线程会导致 Kafka 重新平衡。如果任何消费者或代理未发送心跳至 ZooKeeper，则可通过 Kafka 集群重新配置它。在此重新平衡期间，Kafka 将可用的分区分配到可用的线程，可能会将某个分区移动到另一个进程。
import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;
public class ConsumerGroup {
public static void main(String[] args) throws Exception {
if(args.length < 2){
System.out.println("Usage: consumer <topic> <groupname>");
return;
}
String topic = args[0].toString();
String group = args[1].toString();
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", group);
props.put("enable.auto.commit", "true");
props.put("auto.commit.interval.ms", "1000");
props.put("session.timeout.ms", "30000");
props.put("key.deserializer",
"org.apache.kafka.common.serialization.ByteArraySerializer");
props.put("value.deserializer",
"org.apache.kafka.common.serializa-tion.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
consumer.subscribe(Arrays.asList(topic));
System.out.println("Subscribed to topic " + topic);
int i = 0;
while (true) {
ConsumerRecords<String, String> records = consumer.poll(100);
for (ConsumerRecord<String, String> record : records)
System.out.printf("offset = %d, key = %s, value = %s\n",
record.offset(), record.key(), record.value());
}
}
}Execution
>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group此处我们创建名为 my-group 的示例组名并配有两个消费者。同样，你可以在该组中创建你的组并设置消费者的数量。