编辑
2020-03-30
编程
00

目录

kafka manager 使用说明
1.cluster
1.1 add cluster
1.2 Cluster List
1.3 summary
2. brokers
3. topic
3.1 Create
3.2 List
3.3 one topic
4.consumers
4.1 list
4.2 one consumer

kafka manager 使用说明

1.cluster

1.1 add cluster

  • 填写截图如下 kafka-manager-addCluster02.jpg

  • 其他参数说明

参数名参数说明默认值备注
brokerViewUpdatePeriodSecondsBroker视图周期更新时间/单位(s)30
clusterManagerThreadPoolSize集群管理线程池大小2
clusterManagerThreadPoolQueueSize集群管理线程池列队大小100
kafkaCommandThreadPoolSizekafka命令线程池大小2
kafkaCommandThreadPoolQueueSizekafka命令线程池列队大小100
logkafkaCommandThreadPoolSizelogkafka命令线程池大小2
logkafkaCommandThreadPoolQueueSizelogkafka命令线程池列队大小100
logkafkaUpdatePeriodSecondsLogkafka周期更新时间/单位(s)30
partitionOffsetCacheTimeoutSecsPartition Offset缓存过期时间/单位(s)5
brokerViewThreadPoolSizeBroker视图线程池大小83 * number_of_brokers
brokerViewThreadPoolQueueSizeBroker视图线程池列队大小1000
offsetCacheThreadPoolSizeOffset缓存线程池大小8
offsetCacheThreadPoolQueueSizeOffset缓存线程池列队大小1000
kafkaAdminClientThreadPoolSizeKafka管理客户端线程池大小8
kafkaAdminClientThreadPoolQueueSizeKafka管理客户端线程池队列大小1000

1.2 Cluster List

kafka-manager-addCluster04.jpg

1.3 summary

kafka-manager-addCluster05.jpg

2. brokers

kafka-manager-brokers01.jpg

3. topic

3.1 Create

kafka-manager-topic01.jpg

参数说明备注
Partitions分区,影响吞吐量,一个分区内消息先进先出,多个分区间随机读写创建后不可修改
Replication Factor副本因子,需要大于min.insync.replicas,小于 broker 数量创建后不可修改
retention.ms数据保留时间,单位 mskafka配置中有 log.retention.hours 进行默认配置
max.message.bytes消息的最大流
segment.index.bytes此配置是有关offsets和文件位置之间映射的索引文件的大小;一般不需要修改这个配置索引文件,记录一条消息再log中的位置,文件满了之后会生成新的文件
segment.byteslog 日志存储块大小,kafka中log日志是分成一块块存储的,此配置是指log日志划分成块的大小
min.cleanable.dirty.ratio此项配置控制log压缩器试图进行清除日志的频率。默认情况下,将避免清除压缩率超过50%的日志。这个比率避免了最大的空间浪费
min.insync.replicas最小副本因子,只有当副本数>=min.insync.replicas,该 topic 才能进行正常的操作
delete.retention.ms对于压缩日志保留的最长时间,也是客户端消费消息的最长时间,通log.retention.minutes的区别在于一个控制未压缩数据,一个控制压缩后的数据。此项配置可以在topic创建时的置顶参数覆盖
flush.messages此项配置指定时间间隔:强制进行fsync日志。例如,如果这个选项设置为1,那么每条消息之后都需要进行fsync,如果设置为5,则每5条消息就需要进行一次fsync。一般来说.建议你不要设置这个值。此参数的设置,需要在"数据可靠性"与"性能"之间做必要的权衡.如果此值过大,将会导致每次"fsync"的时间较长(IO阻塞),如果此值过小,将会导致"fsync"的次数较多,这也意味着整体的client请求有一定的延迟.物理server故障,将会导致没有fsync的消息丢失
preallocate是否开启预分配功能
retention.bytes如果使用“delete”的retention 策略,这项配置就是指在删除日志之前,日志所能达到的最大尺寸。默认情况下,没有尺寸限制而只有时间限制
flush.ms此项配置用来置顶强制进行fsync日志到磁盘的时间间隔;例如,如果设置为1000,那么每1000ms就需要进行一次fsync一般不建议使用这个选项
cleanup.policy要么是”delete“要么是”compact“; 这个字符串指明了针对旧日志部分的利用方式;默认方式("delete")将会丢弃旧的部分当他们的回收时间或者尺寸限制到达时。”compact“将会进行日志压缩
file.delete.delay.ms文件在索引中清除后的保留时间一般不需要修改
segment.jitter.ms
index.interval.bytes默认设置保证了我们每4096个字节就对消息添加一个索引,更多的索引使得阅读的消息更加靠近,但是索引规模却会由此增大;一般不需要改变这个选项
compression.typeproducer用于压缩数据的压缩类型。默认是无压缩。正确的选项值是none、gzip、snappy。压缩最好用于批量处理,批量处理消息越多,压缩性能越好。
segment.ms即使log的分块文件没有达到需要删除、压缩的大小,一旦log 的时间达到这个上限,就会强制新建一个log分块文件
unclean.leader.election.enable指明了是否能够使不在ISR中replicas设置用来作为leader

3.2 List

kafka-manager-topic02.jpg

3.3 one topic

kafka-manager-topic04.jpg

4.consumers

4.1 list

kafka-manager-consumers01.jpg

4.2 one consumer

kafka-manager-consumers02.jpg

本文作者:Yui_HTT

本文链接:

版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!