讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在K8s中利用DaemonSet在各节点部署日志插件

梦枫小哥_4434

梦枫小哥_4434

发布时间:2026-03-31 18:02:03

|

954人浏览过

|

来源于php中文网

原创

DaemonSet 是 Kubernetes 中确保每个节点运行一个日志采集 Pod 的核心资源,适用于 Fluentd、Filebeat 等代理部署,需配置宿主机路径挂载、权限、ConfigMap/Secret 及 RBAC,支持滚动更新与多维度验证。

如何在k8s中利用daemonset在各节点部署日志插件

在 Kubernetes 中,DaemonSet 是确保每个节点(或满足条件的节点)上都运行一个 Pod 副本的理想资源对象,特别适合部署日志采集代理(如 Fluentd、Filebeat、Logstash 或 OpenTelemetry Collector)。它能自动响应节点增减,无需手动干预,是构建集群级日志收集基础设施的核心组件。

明确 DaemonSet 的适用场景与限制

DaemonSet 保证每个 Node 上有且仅有一个该 Pod 实例(除非被 taint/tolerations 或 nodeSelector/affinity 排除)。它不适用于需要多副本负载均衡的日志后端(如 Elasticsearch),也不适合只在部分专用节点(如 infra 节点)部署的场景——此时需配合节点标签和调度策略精确控制。

注意:DaemonSet 管理的 Pod 不受 ReplicaSet 控制,也不会出现在 Deployment 或 StatefulSet 的拓扑中;升级采用滚动更新(默认)或强制删除重建模式,需关注日志采集中断窗口。

准备日志插件镜像与配置

选择轻量、稳定、支持动态配置重载的日志代理。例如:

  • Filebeat:官方 Helm Chart 成熟,支持 Kubernetes 模块(`kubernetes` input)、自动发现容器日志路径(/var/log/pods/*)和元数据注入;
  • Fluentd:插件生态丰富,但需自行维护配置(推荐用 fluent/fluentd-kubernetes-daemonset 官方镜像);
  • OpenTelemetry Collector:云原生新标准,支持 logs/metrics/traces 统一采集,需配置 filelog receiver 和 k8sattributes processor。

关键配置要点:

  • 挂载宿主机路径:/var/log(容器引擎日志)、/var/log/pods(容器 stdout/stderr 软链)、/etc/machine-id(用于唯一标识);
  • 设置 securityContext.privileged: true(仅当需要读取 Docker socket 或 hostPath 设备时);
  • 使用 ConfigMap 或 Secret 管理采集规则、目标地址、TLS 证书等,避免硬编码;
  • 为避免干扰业务,建议设置资源限制(requests/limits),尤其 CPU limit 避免采集器被 throttled。

编写并部署 DaemonSet YAML

以 Filebeat 为例,最小可行 DaemonSet 片段如下:

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: filebeat
  namespace: kube-system
spec:
  selector:
    matchLabels:
      k8s-app: filebeat
  template:
    metadata:
      labels:
        k8s-app: filebeat
    spec:
      serviceAccountName: filebeat
      tolerations:
      - operator: Exists # 允许容忍所有污点(含 master 节点)
      hostNetwork: true # 可选,便于访问宿主机服务(如本地 syslog)
      containers:
      - name: filebeat
        image: docker.elastic.co/beats/filebeat:8.12.0
        args: [
          "-c", "/etc/filebeat.yml",
          "-e",
        ]
        volumeMounts:
        - name: config
          mountPath: /etc/filebeat.yml
          readOnly: true
          subPath: filebeat.yml
        - name: data
          mountPath: /usr/share/filebeat/data
        - name: varlibdockercontainers
          mountPath: /var/lib/docker/containers
          readOnly: true
        - name: varlog
          mountPath: /var/log
          readOnly: true
        - name: varlogpods
          mountPath: /var/log/pods
          readOnly: true
      volumes:
      - name: config
        configMap:
          name: filebeat-config
      - name: data
        hostPath:
          path: /var/lib/filebeat-data
          type: DirectoryOrCreate
      - name: varlibdockercontainers
        hostPath:
          path: /var/lib/docker/containers
      - name: varlog
        hostPath:
          path: /var/log
      - name: varlogpods
        hostPath:
          path: /var/log/pods

部署前需提前创建:

  • ServiceAccount + ClusterRoleBinding(授予读取 Pods/Namespaces/Nodes 的权限);
  • ConfigMap(含 filebeat.yml,定义 input、processors、output);
  • hostPath 类型的持久化目录(如 /var/lib/filebeat-data)建议用 initContainer 初始化权限(chown);
  • 若对接 HTTPS 日志后端,将证书挂载为 Secret。

验证与持续运维

部署后执行以下检查:

  • 运行 kubectl get ds -n kube-system filebeat 确认 DESIRED == CURRENT == READY;
  • 用 kubectl get pods -n kube-system -l k8s-app=filebeat 查看各节点 Pod 状态,确认其 nodeName 与集群节点一一对应;
  • 进入任一 Pod:kubectl exec -it -n kube-system <pod-name> -- filebeat test config && filebeat test output 验证配置语法与连通性;
  • 查看采集日志:kubectl logs -n kube-system <pod-name>,关注是否有 permission denied、connection refused 或 no log files found 类错误;
  • 在日志后端(如 Kibana)搜索 kubernetes.node.name:"xxx",确认节点维度日志已上报。

后续建议:

  • 通过 Prometheus + Filebeat 自身指标(filebeat_output_write_bytes_total)监控发送速率与失败数;
  • 定期轮转 /var/lib/filebeat-data 避免磁盘占满(可用 node-problem-detector 或自定义 cronJob 清理);
  • 升级时使用 updateStrategy.type: RollingUpdate 并设置 maxUnavailable: 1 减少采集空白期。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务

Golang云原生微服务Kubernetes (K8s) 是指 使用 Go 语言(Golang)编写的云原生微服务,并利用 Kubernetes 平台进行容器化部署、自动化管理、弹性伸缩和高效编排的一整套现代应用架构方案。

116

2025.12.22

Go云原生应用与Kubernetes服务部署实战
Go云原生应用与Kubernetes服务部署实战

本专题围绕 Go 语言在云原生环境中的应用展开,讲解容器化部署、Kubernetes 编排、服务发现、健康检查与弹性扩缩容机制。通过真实云端案例,帮助开发者构建可扩展的云原生微服务架构。

188

2026.06.29

C++运算符基础入门
C++运算符基础入门

本专题详细讲解了C++运算符的类型、语法与使用方法,涵盖算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符、条件运算符及其他特殊运算符,并通过代码示例解析优先级与结合性。

0

2026.10.09

PixPix官网入口合集
PixPix官网入口合集

本专题汇总了PixPix官网在线使用入口及平台功能详解,涵盖文生图、图生图、AI图片编辑、AI视频创作等核心能力,并整理了AI爆款图片复刻、商品套图、详情页生成、视频变清晰与去水印等电商专项工具的使用教程。同时收录了PixPix MCP接入Codex、Claude Code等主流Agent的操作指南,助您一站式完成AI图片与视频创作。

0

2026.10.09

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

60

2026.10.08

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

160

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

140

2026.09.30

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

120

2026.09.30

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

120

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn