讲师中心 微信公众号
AI工具推荐 视频效率加速

Kafka怎么使用kafka-reassign-partitions工具将分区挪到新节点

风辰小哥_5710

风辰小哥_5710

发布时间:2026-10-26 09:31:49

|

651人浏览过

|

来源于php中文网

原创

必须手写或脚本生成符合Kafka要求的reassignment.json,含version(固定为1)和partitions数组,每个元素指定topic、partition及整数型replicas数组;常见错误是replicas写成字符串或遗漏分区,导致InvalidPartitionsException或静默跳过。

kafka怎么使用kafka-reassign-partitions工具将分区挪到新节点

怎么生成 reassignment JSON 文件

必须手写或用脚本生成符合 Kafka 要求的 reassignment.json,结构不能错。它包含两个顶层字段:version(固定为 1)和 partitions(数组),每个元素指定 topic、partition 和 replicas(副本所在 broker ID 列表)。

常见错误是把 replicas 写成字符串或漏掉某个分区——Kafka 会直接报 InvalidPartitionsException 或静默跳过。

  • replicas 必须是整数数组,比如 [101, 102, 103],不能是 ["101","102"]
  • 只挪部分分区?没问题,但 JSON 里只列要挪的,别把没动的也塞进去
  • 新节点 broker ID 必须已在集群中注册且存活,否则执行时卡在 Waiting for admin client to be ready

怎么用 --generate 模式预生成方案

如果只是想把某些 topic 的分区均匀摊到新加入的 broker 上,别手写 JSON,用 kafka-reassign-partitions.sh --generate 更安全。

它会读取当前分配、结合你给的 --broker-list(比如 "101,102,103,104"),自动计算出最小迁移量的方案,并输出两段 JSON:一段是建议的 reassignment,一段是当前状态(用于回滚)。

  • 必须加 --topics-to-move-json-file,内容是 {"topics": [{"topic": "my-topic"}], "version": 1}
  • 输出的“建议 JSON”要重定向保存,别直接复制终端里带换行缩进的版本——JSON 解析器对空白敏感
  • 生成后先用 kafka-topics.sh --describe 确认源分区 leader 分布,避免新方案把所有 leader 都压到一个 broker 上

执行 reassignment 时为什么卡住或失败

执行 --execute 后长时间无响应,大概率是副本同步没完成,而不是工具挂了。Kafka 会等 ISR(in-sync replicas)全部追上才标记完成。

典型现象:命令返回 Successfully started reassignment,但 --verify 一直显示 reassignment in progress,甚至几小时不动。

  • 检查新节点磁盘是否满、网络是否丢包(tcpdump -i any port 9092 看有没有大量重传)
  • 调大 replica.fetch.wait.max.ms(默认 500ms)和 replica.fetch.response.max.bytes(默认 10MB),尤其当消息体大时
  • 别在高峰期执行;如果卡太久,可用 --cancel 中断,但已复制的数据不会回退,下次再跑要清理目标 broker 的 log.dirs 下对应分区目录

verify 阶段看到 “Failed” 怎么办

--verify 报 Failed 不一定等于迁移失败,可能是状态未刷新及时。先等 30 秒再重试;仍失败,就查 kafka-topics.sh --describe --topic X 输出里的 Replicas 和 Isr 字段。

真正的问题往往藏在这几个地方:

  • Isr 少于 Replicas 数——说明至少一个副本没同步上,看那个 broker 的 server.log 里有没有 Failed to fetch 或 Connection refused
  • 目标 broker 的 log.dirs 权限不对,导致无法创建分区子目录(常见于用 root 启动 Kafka 但 data 目录属主是 kafka 用户)
  • 旧 broker 已下线但还在 replicas 列表里——verify 会持续报错,必须手动编辑 JSON 重新 execute

迁移不是原子操作,ISR 收敛前任何 broker 故障都可能导致数据不可用,线上操作务必盯紧监控里的 UnderReplicatedPartitions 指标。

相关文章

Kafka Eagle可视化工具
Kafka Eagle可视化工具

Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等,有需要的小伙伴快来保存下载体验吧!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
kafka消费者组有什么作用
kafka消费者组有什么作用

kafka消费者组的作用:1、负载均衡;2、容错性;3、广播模式;4、灵活性;5、自动故障转移和领导者选举;6、动态扩展性;7、顺序保证;8、数据压缩;9、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2906

2024.01.12

kafka消费组的作用是什么
kafka消费组的作用是什么

kafka消费组的作用:1、负载均衡;2、容错性;3、灵活性;4、高可用性;5、扩展性;6、顺序保证;7、数据压缩;8、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

650

2024.02.23

rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

624

2024.02.23

Java 流式处理与 Apache Kafka 实战
Java 流式处理与 Apache Kafka 实战

本专题专注讲解 Java 在流式数据处理与消息队列系统中的应用,系统讲解 Apache Kafka 的基础概念、生产者与消费者模型、Kafka Streams 与 KSQL 流式处理框架、实时数据分析与监控,结合实际业务场景,帮助开发者构建 高吞吐量、低延迟的实时数据流管道,实现高效的数据流转与处理。

690

2026.02.04

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

40

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

40

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

20

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
简单聊聊mysql8与网络通信
简单聊聊mysql8与网络通信

共1课时 | 0.1万人学习

SQL优化与排查(MySQL版)
SQL优化与排查(MySQL版)

共26课时 | 3.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn