Kafka 清空Topic

打印 上一主题 下一主题

主题 548|帖子 548|积分 1644

1、背景

测试环境某topic的数据格式发生了更改,必要将原有数据清空重新生产数据。
2、操纵

2.1 检查当前topic的配置

  1. [root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper x.x.x.x:2181 --entity-type topics --entity-name topicName --describe
复制代码
还需检查当前kafka topic对应的分区副本(假定单分区单副本)巨细,用于验证数据是否已删除。
  1. [root@localhost ~]# du -sh  /export/server/kafka/logs/kafka/topicName-0
  2. 68M /export/server/kafka/logs/kafka/topicName-0
复制代码
2.2 添加数据过期时间配置

将过期时间设置为1秒
  1. [root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper  x.x.x.x:2181 --entity-type topics --entity-name topicName  --alter --add-config retention.ms=1000
复制代码
2.3 检查数据已删除

  1. [root@localhost ~]# du -sh  /export/server/kafka/logs/kafka/topicName-0
复制代码
直到该文件夹表现巨细是20K即证明数据已清理
同时需注意,数据清理时机受server.properties中log.retention.check.interval.ms配置控制,比如我的配置是5分钟:300000,那么最长必要等5分钟才能看到结果。
2.4 删除过期时间配置

  1. [root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper  x.x.x.x:2181 --entity-type topics --entity-name topicName   --alter --delete-config retention.ms
复制代码
此配置肯定要删除,否则后续数据可能没被消耗就被删掉啦。
3、鉴戒内容

Kafka——管理Kafka(下令行工具)详解
这篇博客详细写了kafka管理脚本的实际利用,我测了几个都是正确的,大家有兴趣的可以验证。
不外最好是官网阅读哈:
kafka-配置
kafka-操纵

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

怀念夏天

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表