讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样在Java中搭建Hadoop分布式环境_Java大数据开发起步

夏浩同学_3699

夏浩同学_3699

发布时间:2026-03-09 14:59:59

|

297人浏览过

|

来源于php中文网

原创

本地启动 Hadoop 卡在 starting namenodes 主要是 SSH 免密登录未配置成功,导致 start-dfs.sh 等脚本阻塞等待密码输入;需执行 ssh localhost 验证,失败则用 ssh-keygen 和 ssh-copy-id 重配密钥。

怎样在java中搭建hadoop分布式环境_java大数据开发起步

为什么本地启动 Hadoop 会卡在 starting namenodes 不动

绝大多数 Java 开发者第一次搭 Hadoop 分布式环境,不是败在配置文件上,而是败在 SSH 本身没跑通。Hadoop 启动脚本(比如 start-dfs.sh)默认会用 SSH 连自己(localhost 或主机名),如果没配好免密登录,它就卡住等密码输入——而你根本看不到提示。

  • 检查 ssh localhost 能否直接连上不输密码;不行就重做密钥:ssh-keygen -t rsa -P '' → ssh-copy-id localhost
  • 确保 hdfs-site.xml 中的 dfs.namenode.http-address 和 dfs.datanode.http.address 没写成 127.0.0.1,得用机器真实 IP 或可解析的主机名(否则 DataNode 注册失败)
  • Java 版本必须是 8 或 11(Hadoop 3.x 不支持 Java 17+),运行 java -version 确认,别信 IDE 里选的 JDK 就是系统实际用的

ClassNotFoundException: org.apache.hadoop.fs.FileSystem 怎么加对依赖

这是 Maven 项目里最常踩的坑:只加了 hadoop-client,却漏掉 HDFS 的核心实现模块。Hadoop 的 JAR 包拆得很碎,hadoop-client 只是门面,真正读写 HDFS 需要 hadoop-hdfs 和它的 transitive 依赖(比如 hadoop-common)。

  • Maven 中至少要显式声明:hadoop-client、hadoop-hdfs、hadoop-common,版本必须严格一致(如 3.3.6)
  • 避免用 provided scope——本地测试时这些包必须打进 fat jar 或出现在 classpath,否则运行时找不到 FileSystem 子类
  • 如果用 Spring Boot,别让 spring-boot-maven-plugin 自动 exclude Hadoop 的 slf4j-log4j12,否则可能引发日志冲突报错

Java 代码里怎么连上远程 HDFS 而不是本地伪分布

连错集群是开发期高频问题。默认情况下,FileSystem.get(new Configuration()) 会读取 classpath 下的 core-site.xml 和 hdfs-site.xml,如果这些文件没放对位置,或者内容指向了 file:/// 或 hdfs://localhost:9000,那你的 Java 程序就根本没连上真正的分布式集群。

java-api-doc-generator
java-api-doc-generator

分析 Java Spring Boot 后端 Controller 代码,自动生成 Markdown 格式的接口文档。当用户说“生成 Java 接口文档”、“生成 API 文档”、“从 Spring 代码生成文档”时触发。

下载
  • 确认 core-site.xml 中 fs.defaultFS 值是形如 hdfs://mycluster:9000 的地址,且该 host 能被 DNS 或 /etc/hosts 解析
  • Java 里不要硬编码配置,优先用 new Configuration(true) 加载默认资源,再用 conf.set("fs.defaultFS", "...") 覆盖
  • 测试连通性先用命令行:hadoop fs -ls hdfs://mycluster:9000/,成功了再写 Java 代码;别跳过这步

为什么 DataNode 启不来,日志里只有 Failed to add storage directory

这不是权限问题,也不是磁盘满,而是 Hadoop 对 DataNode 的存储目录有“干净启动”要求:如果上次异常退出,它会在目录下留一个 in_use.lock 文件,下次启动时发现这个文件还在,就拒绝加载该目录——哪怕里面数据是完好的。

立即学习“Java免费学习笔记(深入)”;

  • 进到 dfs.datanode.data.dir 配置的路径(比如 /usr/local/hadoop/data),手动删掉所有 in_use.lock
  • 别直接删整个 data 目录!除非你确定不需要旧数据;删了会导致 NameNode 认为所有块丢失,触发大量冗余复制
  • 更稳妥的做法是在 hdfs-site.xml 中加配置:dfs.datanode.directory.scan.interval 调小(如 30s),让 DataNode 更快感知目录状态变化

分布式环境里,每个节点的配置一致性、时间同步(NTP)、防火墙端口(9000、9870、9864 等)才是比语法更难 debug 的地方。别急着写业务逻辑,先让 hdfs dfsadmin -report 显示出全部 Live DataNode。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

11557

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

8662

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

7452

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1224

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

988

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

1476

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

3029

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

20291

2023.08.03

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn