自学大数据第四天~hadoop集群的搭建

news/2024/5/20 2:22:19 标签: hadoop, 大数据, hdfs

在这里插入图片描述

Hadoop集群安装配置

hadoop采用分布式模式部署和运行时,存储采用分布式文件系统HDFS,此时HDFS名称节点和数据节点位于不同的机器上;
数据就可以分布到多个节点,不同的数据节点上的数据计算可以并行执行了,这时候MR才能发挥其本该有的作用;

没那么多机器怎么办~~~~多几个虚拟机不就行了

克隆虚拟机

电脑存储不够的可以使用链接克隆的方式
在这里插入图片描述

修改虚拟机的网络配置~

以其中一个slave节点为例

  • 启动虚拟机
    在这里插入图片描述
  • 关闭网卡服务,然后修改节点的ip

由于本节点启动时默认没有启动网卡,所以就不关闭了,
在这里插入图片描述

  • 修改节点ip为静态IP
 vi /etc/sysconfig/network-scripts/ifcfg-ens160 

修改成如下地址:
在这里插入图片描述

  • 设置网卡自动启动后启动网卡
[root@node1 hadoop]#  vi /etc/sysconfig/network-scripts/ifcfg-ens160 
[root@node1 hadoop]# systemctl enable NetworkManager
Created symlink /etc/systemd/system/multi-user.target.wants/NetworkManager.service → /usr/lib/systemd/system/NetworkManager.service.
Created symlink /etc/systemd/system/dbus-org.freedesktop.nm-dispatcher.service → /usr/lib/systemd/system/NetworkManager-dispatcher.service.
Created symlink /etc/systemd/system/network-online.target.wants/NetworkManager-wait-online.service → /usr/lib/systemd/system/NetworkManager-wait-online.service.
[root@node1 hadoop]# systemctl start  NetworkManager
[root@node1 hadoop]# 

  • ping一下其他节点
    在这里插入图片描述可以正常ping通,我们的机器就准备好了

为了便于区分节点,我们还需要修改各个节点的主机名

修改之后的具体配置如下

节点节点名ip
mastermaster192.168.8.135
slave1slave1192.168.8.136
slave2slave2192.168.8.137
slave3slave3192.168.8.138

然后在虚拟机各个节点中添加映射关系

在这里插入图片描述

记得修改之后重启虚拟机

之后登录虚拟机就很容易辨认出当前是处于Master节点上进行操作,不会和Slave节点产生混淆。
在这里插入图片描述重启之后测试一下配置是否成功

  • 在master节点上ping一下slave*节点
#ping 3次就停止
ping slave1 -c 3 

在这里插入图片描述其他的节点自己测试一下就可以,这里不再展示

如果ping不通:
1,可能你没有重启机器
2,配置的文件内容检查一下


http://www.niftyadmin.cn/n/121609.html

相关文章

C语言学习笔记——指针(初阶)

前言 指针可以说是C语言基础语法中最难的理解的知识之一,很多新手(包括我)刚接触指针时都觉得很难。在我之前发布的笔记中都穿插运用了指针,但是我一直没有专门出一期指针的笔记,这是因为我确实还有些细节至今还不太清…

缺陷及缺陷管理

今日目标能够说出缺陷的判定标准能够说出描述缺陷的6大核心内容能够描述缺陷状态、严重程度、优先级的作用能够按照提供的缺陷模版完成一个缺陷的提交能够说出缺陷的跟踪流程能够在禅道中提交测试用例能够在禅道中提交缺陷1. 缺陷1.1 缺陷的定义(重点)产…

2023-3-4 刷题情况

按位与为零的三元组 题目描述 给你一个整数数组 nums &#xff0c;返回其中 按位与三元组 的数目。 按位与三元组 是由下标 (i, j, k) 组成的三元组&#xff0c;并满足下述全部条件&#xff1a; 0 < i < nums.length 0 < j < nums.length 0 < k < nums.l…

计算机视觉废钢堆提取问题

计算机视觉废钢堆提取问题 背景介绍 在钢铁炼制中&#xff0c;废钢是非常重要的原料&#xff0c;不同等级废钢对于钢成品影响很大&#xff0c;因此需要对废钢进行正确分类。某废钢料场中&#xff0c;卸料区域布置了多个摄像头&#xff0c;用于拍摄卸料场中废钢堆&#xff0c;…

【基础算法】双指针---数组元素的目标和

&#x1f339;作者:云小逸 &#x1f4dd;个人主页:云小逸的主页 &#x1f4dd;Github:云小逸的Github &#x1f91f;motto:要敢于一个人默默的面对自己&#xff0c;强大自己才是核心。不要等到什么都没有了&#xff0c;才下定决心去做。种一颗树&#xff0c;最好的时间是十年前…

curl技术篇

curl技术篇 curl简介 ​ Curl是一种用于传输数据的工具和库&#xff0c;它支持许多协议&#xff0c;包括HTTP、HTTPS、FTP、IMAP、POP3等。Curl可以从命令行或代码中使用&#xff0c;它允许用户通过网络传输数据并与各种服务器进行通信。 Curl的一些常见用途包括&#xff1a…

36_2 On Chip Bus —— AXI总线介绍

目录 1.AXI总线介绍&#xff08;读2写3&#xff09; 1.1流量控制 1.2 AXI signals 信号线 1.3重点信号线的介绍 1.4原子操作——让读改写一套操作 永远是一个master对一个slave 1.5AXI BURST Boundary——一个burst不能跨4k boundary&#xff0c;master要保证 1.6读/写通…

Git标签与版本发布

1. 什么是git标签 标签&#xff0c;就类似我们阅读时的书签&#xff0c;可以很轻易找到自己阅读到了哪里。 对于git来说&#xff0c;在使用git对项目进行版本管理的时候&#xff0c;当我们的项目开发到一定的阶段&#xff0c;需要发布一个版本。这时&#xff0c;我们就可以对…