讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用Docker容器部署ApacheFlink实现实时流计算

大枫小哥_1347

大枫小哥_1347

发布时间:2026-05-02 08:08:26

|

825人浏览过

|

来源于php中文网

原创

Docker部署Flink核心是保障作业稳定、可恢复、连通外部系统;需自定义镜像配置flink-conf.yaml、添加connector、暴露端口,用docker-compose编排集群,通过REST API或CLI提交作业,并验证日志、checkpoint和网络连通性。

如何使用docker容器部署apacheflink实现实时流计算

用 Docker 部署 Apache Flink 实现实时流计算,核心不是“跑起来”,而是让作业稳定、可恢复、能连外部系统。单机 Docker 环境特别适合开发验证、教学演示和轻量级实时任务(比如 Kafka → Flink → MySQL 的简单 ETL),关键在配置对齐、网络通、状态可持久、提交方式可靠。

构建可运行的自定义镜像

官方镜像(如 flink:1.18.1-scala_2.12)能启动,但默认不支持 checkpoint 或连接 Kafka/MySQL。必须基于它构建自己的镜像:

  • 覆盖 flink-conf.yaml:设 jobmanager.rpc.address: jobmanager(必须是服务名,不是 localhost 或 IP);启用 state.backend: filesystem,并指定 state.checkpoints.dir: /checkpoints
  • 把必需的 connector 放进 /opt/flink/lib/:比如 flink-sql-connector-kafka-1.18.1.jar、flink-connector-mysql-cdc-2.4.0.jar
  • Dockerfile 中显式暴露端口:EXPOSE 8081 6123,确保宿主机能访问 Web UI 和 RPC

用 docker-compose 编排多节点集群

不用手动 run 多个容器,避免 IP 硬编码和启动顺序问题。一个最小可用的 docker-compose.yml 示例:

docker-container-rerun-all
docker-container-rerun-all

顺序检查并可选更新所有已在长期记忆中记录了固定重建命令的 docker run 容器。使用场景:用户...

下载
  • 定义 jobmanager 服务:设 command: jobmanager,环境变量 JOB_MANAGER_RPC_ADDRESS=jobmanager
  • 定义 taskmanager 服务:用 depends_on 声明依赖,同样设 JOB_MANAGER_RPC_ADDRESS=jobmanager,可通过 deploy.replicas: 2 启动多个实例
  • 建议显式创建网络:docker network create flink-network,并在 compose 中指定 networks: [flink-network],保障 DNS 解析正常

执行 docker-compose up -d 后,打开 https://www.php.cn/link/97a34e8859e946b5313f18f5f5f4c9f6,应看到 JobManager 在线、TaskManager 成功注册。

提交作业别依赖 Web UI

Web 页面上传 JAR 容易超时、无日志、不支持参数传递,生产级提交推荐以下两种方式:

  • REST API 提交:先 GET https://www.php.cn/link/97a34e8859e946b5313f18f5f5f4c9f6/v1/clusters 获取 session ID,再 POST JAR 文件 + 入口类 + programArgs(如 --bootstrap.servers=localhost:9092)+ parallelism
  • Flink CLI 远程提交:在宿主机安装同版本 Flink(如 1.18.1),执行:
    ./bin/flink run -t remote -m localhost:8081 -c com.example.KafkaToMysqlJob ./job.jar --bootstrap.servers kafka:9092
    注意:JAR 必须包含所有依赖(用 mvn clean package -Pbuild-jar 打包)

验证与调试不可跳过

集群页面显示“Running”不代表作业真在处理数据。务必检查:

  • TaskManager 日志:运行 docker logs <taskmanager-container-name></taskmanager-container-name>,确认含 Registered at jobmanager 和 Starting to fetch checkpoint 字样
  • Checkpoint 目录权限:挂载的 /checkpoints 卷需有写权限,目录下应生成 checkpoint-xxx 子目录,否则状态无法保存
  • 外部服务连通性:进入容器执行 ping kafka 或 telnet mysql 3306,验证网络和端口可达(尤其跨 compose 网络时)

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

765

2023.07.24

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

5999

2024.04.08

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7077

2024.04.08

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2773

2024.04.08

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

319

2026.02.11

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

471

2026.03.31

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

440

2026.05.11

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

325

2026.05.15

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn