HDFS集群环境部署(超级详细!!)

news/2024/5/20 4:09:25 标签: hdfs, hadoop, 大数据

一、部署Hadoop的关键点

1.上传,解压到/export/server,配置软链接

2.修改4个配置文件,workers,hadoop.env.sh,core-stie.xml,hdfs-site.xml

3.SCP分发到root2,root3,并设置环境变量

4.创建数据目录,并修改文件权限归属hadoop用户

5.start-all.sh启动,并且查看web UI页面

部署之前首先要确定前置准备中的,服务器创建,固定ip,防火墙关闭,Hadoop用户创建,ssh免密钥,JDK部署等操作

二、上传&解压

上传到root1机器上

使用命令解压到/export/server/中

创建软链接

ln -s /export/server/hadoop-3.1.3 hadoop

进入到hadoop安装包内

通过ls -l命令查看文件夹内部结构

bin,存放Hadoop的各类程序(命令)

etc,存放Hadoop的配置文件

include,C语言的一些头文件

lib,存放Linux系统的动态链接库(.so文件)

libexec,存放配置Hadoop系统的脚本文件(.sh和.cmd)

Liceses-binary,存放许可证文件

sbin,管理员程序(super bin)

share,存放二进制源码(java jar包)

修改配置文件,应用自定义设置

配置HDFS集群,主要涉及到如下文件的修改:

workers:配置从节点(DataNode)有哪些

Hadoop-env.sh:配置Hadoop的相关环境变量

Core-site.xml:Hadoop核心配置文件

Hdfs-site.xml:HDFS核心配置文件

三、配置workers(表明集群记录了三个从节点)

Cd etc/hadoop

Vim workers

填入root1,root2,root3

1.配置hadoop-env.sh文件

2.配置core-site.xml文件

3.配置hdfs-site.xml文件

四、准备数据目录

分发hadoop文件夹

五、配置环境变量

授权为hadoop用户

六、格式化整个文件系统

        今天的大数据就到这里啦,大家要是有什么建议的,或者有什么不懂都可以在评论区留言!都会回复大家的,下期见!


http://www.niftyadmin.cn/n/5143171.html

相关文章

PDF 表单直接保存到您的文档中--TX Text Control

TX Text Control .NET Server for ASP.NET Document Viewer 32.0.2 允许用户保存包含已填写表单字段的文档,从而更轻松地协作和共享信息。 TX Text Control .NET Server for ASP.NET 是一个适用于 ASP.NET 和 ASP.NET Core 的综合服务器端文档处理库。功能包括 PDF …

如何使用内网穿透工具,将Tomcat网页发布到公共互联网上

文章目录 前言1.本地Tomcat网页搭建1.1 Tomcat安装1.2 配置环境变量1.3 环境配置1.4 Tomcat运行测试1.5 Cpolar安装和注册 2.本地网页发布2.1.Cpolar云端设置2.2 Cpolar本地设置 3.公网访问测试4.结语 前言 Tomcat作为一个轻量级的服务器,不仅名字很有趣&#xff0…

C++11的move语义

移动语义是通过右值引用来匹配临时值,现在C11提供了std::move方法来讲左值转换为右值,从而方便应用移动语义。 move是将对象的状态或者所有权从一个对象转移到另一个对象,只是转移,没有内存拷贝。 move实际上并不能移动任何东西&a…

记录rider编辑器快速文档 中英文显示的问题

起初是不同的项目里快速文档一个项目显示中文 一个项目显示英文 搞了很久不知道哪里的原因 偶然灵机一动,点开了下面docs.microsoft.com的地址进去一看 发现一个是4.6的文档 一个是4.6.1的文档 所以去项目属性里 切换了framework的版本. 然后汉化就好了 纯属强迫症,而且…

认证授权--越权访问测试用例

漏洞名称 越权访问 漏洞描述 越权访问,这类漏洞是指应用在检查授权(Authorization)时存在纰漏,使得攻击者在获得低权限用户帐后后,可以利用一些方式绕过权限检查,访问或者操作到原本无权访问的高权限功能…

.net 写了一个支持重试、熔断和超时策略的 HttpClient 实例池

using System; using System.Collections.Concurrent; using System.Net.Http; using System.Threading; using System.Threading.Tasks;/// <summary> /// 表示一个支持重试、熔断和超时策略的 HttpClient 实例池。 /// </summary> public class HttpClientPool :…

发票识别神器:自动录入纸质发票信息

在如今数字化的时代&#xff0c;纸质发票的处理变得越来越繁琐和耗时。为了提高工作效率和减少人工错误&#xff0c;自动识别纸质发票信息的软件应运而生&#xff0c;如金鸣表格文字识别系统的“证票识别”识别功能。这类软件通过图像识别和智能算法&#xff0c;能够迅速准确地…

[C++][openpose]openpose编译提示错误C2065:‘ssize_t‘:未声明的标识符

不要用VS2022 VS2019 compile 时会出现报错&#xff1a; 1.错误C2065&#xff1a;ssize_t&#xff1a;未声明的标识符 解决方法在这里 &#xff0c;添加定义就好了 #if defined(_MSC_VER) # pragma warning(push) # pragma warning(disable: 4127) // warning C4127: Cond…