kafka相关命令详解

一、KAFKA启停命令

1. 前台启动

kafka 前台启动命令：

bin/kafka-server-start.shconfig/server.properties

2. 后台启动

kafka 后台启动命令：
后台常驻方式，带上参数 -daemon，如：

bin/kafka-server-start.sh-daemonconfig/server.properties

或者

nohupbin/kafka-server-start.shconfig/server.properties&

指定 JMX port 端口启动，指定 jmx，可以方便监控 Kafka 集群

JMX_PORT=9991/usr/local/kafka/bin/kafka-server-start.sh-daemon/usr/local/kafka/config/server.properties

3. 停止命令

kafka 停止命令：

bin/kafka-server-stop.sh

二、Topic 相关命令

2.1. 创建 Topic

参数 --topic 指定 Topic 名，–partitions 指定分区数，–replication-factor 指定备份(副本)数

创建名为 test_kafka_topic 的 Topic

bin/kafka-topics.sh-zookeeperlocalhost:2181--create--partitions5--replication-factor1--topictest_kafka_topic

注意，如果配置文件 server.properties 指定了 Kafka 在 zookeeper 上的目录，则参数也要指定，否则会报无可用的 brokers（下面部分命令也有同样的情况），如：

/usr/local/kafka/bin/kafka-topics.sh--create--zookeeperlocalhost:2181/kafka--replication-factor1--partitions1--topictest

2.2. 查询 Topic 列表

列出所有 Topic

bin/kafka-topics.sh--list--zookeeperlocalhost:2181

2.3. 查询 Topic 详情

查询 Topic 的详细信息

bin/kafka-topics.sh--describe--zookeeperlocalhost:2181--topictest_kafka_topic

说明：如果未指定 topic 则输出所有 topic 的信息

2.4. 增加 Topic 的 partition 数

bin/kafka-topics.sh--zookeeperlocalhost:2181--alter--topictest_kafka_topic--partitions5

2.5. 查看 topic 指定分区 offset 的最大值或最小值

time 为 -1 时表示最大值，为 -2 时表示最小值：

bin/kafka-run-class.shkafka.tools.GetOffsetShell--topictest_kafka_topic--time-1--broker-list127.0.0.1:9092--partitions0

2.6. 删除Topic

删除名为 test_kafka_topic 的 Topic

bin/kafka-topics.sh--delete--zookeeperlocalhost:2181--topictest_kafka_topic

说明：在${KAFKA_HOME}/config/server.properties中配置 delete.topic.enable 为 true，这样才能生效，删除指定的 topic主题

三、消息 相关命令

3.1. 发送消息

生产者发送消息

bin/kafka-console-producer.sh--broker-listlocalhost:9092--topictest_kafka_topic

3.2. 消费消息（从头开始）

消费者查询消息

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--from-beginning--topictest_kafka_topic

3.3. 消费消息（从尾开始）

从尾部开始取数据

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest

3.4. 消费消息（从尾开始指定分区）

从尾部开始取数据，指定分区消费：

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest--partition0

3.5. 消费消息（指定分区指定偏移量）

–partition 指定起始偏移量消费–offset：

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--partition0--offset100

3.6. 指定分组->消费消息

消费者消费消息（指定分组）
注意给客户端命名之后,如果之前有过消费，那么–from-beginning就不会再从头消费了

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--from-beginning--topictest_kafka_topic--groupt1

说明：
–from-beginning：表示从头开始接收数据
–group：指定消费者组

3.7. 取指定个数

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest--partition0--max-messages1

四、消费者 Group

4.1. 指定 Group

指定分组从头开始消费消息（应该会指定偏移量）

/usr/local/kafka/bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest-grouptest_group--from-beginning

4.2. 消费者 Group 列表

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--list

4.3. 查看 Group 详情

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--describe

输出日志：

Consumergroup'test_group'hasnoactivemembers.

TOPICPARTITIONCURRENT-OFFSETLOG-END-OFFSETLAGCONSUMER-IDHOSTCLIENT-ID
test0550---

#CURRENT-OFFSET:当前消费者群组最近提交的offset，也就是消费者分区里读取的当前位置
#LOG-END-OFFSET:当前最高水位偏移量，也就是最近一个读取消息的偏移量，同时也是最近一个提交到集群的偏移量
#LAG：消费者的CURRENT-OFFSET与broker的LOG-END-OFFSET之间的差距

4.4. 删除 Group 中 Topic

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--topictest--delete

4.5. 删除 Group

/usr/local/kafka/bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--delete

五、补充命令

5.1.平衡 leader

bin/kafka-preferred-replica-election.sh--bootstrap-serverlocalhost:9092

5.2. 自带压测工具

bin/kafka-producer-perf-test.sh--topictest--num-records100--record-size1--throughput100--producer-propsbootstrap.servers=localhost:9092

审核编辑：汤梓红