虚拟机安装配置Hadoop(图文教程)

news/2024/5/20 3:09:22 标签: hadoop, 大数据, hdfs

1. 前提准备

  1. 启动镜像 Init1.0
    在这里插入图片描述

  2. 检查是否安装 Hdoop 和 jdk

[niit@niit-master ~]$ java -version
[niit@niit-master ~]$ hadoop version

在这里插入图片描述

hadoopjdk_17">2. 安装hadoop和jdk

  1. 将 jdk、hadoop 上传到 /home/nitt
    直接将压缩文件拖到左侧目录栏即可
    在这里插入图片描述

  2. 解压 hadoop、jdk

[niit@niit-master ~]$ tar -zxvf hadoop-2.9.2.tar.gz

在这里插入图片描述
解压完毕
在这里插入图片描述

[niit@niit-master ~]$ tar -zxvf jdk-8u231-linux-x64.tar.gz

在这里插入图片描述
在这里插入图片描述

  1. 切换到 root
[niit@niit-master ~]$ su root
密码:

在这里插入图片描述

  1. 将解压的 hadoop 和 jdk 移动到 /usr/local/
    在这里插入图片描述
[root@niit-master niit]# mv jdk1.8.0_231/ /usr/local/

在这里插入图片描述

[root@niit-master niit]# mv hadoop-2.9.2 /usr/local/

在这里插入图片描述

  1. 进入 /usr/local 查看
[root@niit-master niit]# cd /usr/local/

在这里插入图片描述

[root@niit-master local]# ll

在这里插入图片描述

  1. 配置 hadoop 和 jdk 的环境配置
    进入 /etc/profile 文件
[root@niit-master local]# vi /etc/profile

在这里插入图片描述

在文件最下面输入下述内容

export JAVA_HOME=/usr/local/jdk1.8.0_231
export PATH=$PATH:$JAVA_HOME/bin
export HADOOP_HOME=/usr/local/hadoop-2.9.2
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

在这里插入图片描述

更新配置文件到系统中

[root@niit-master jdk1.8.0_231]# source /etc/profile

在这里插入图片描述

  1. 检查 jdk 和 hadoop 是否安装成功
[root@niit-master jdk1.8.0_231]# java -version

在这里插入图片描述

[root@niit-master jdk1.8.0_231]# hadoop version

在这里插入图片描述

3. 创建相关文件

[root@niit-master hadoop]# cd /opt
[root@niit-master opt]# ll
总用量 0
[root@niit-master opt]# mkdir hadoop
[root@niit-master opt]# cd hadoop/
[root@niit-master hadoop]# mkdir tmp
[root@niit-master hadoop]# mkdir namenode
[root@niit-master hadoop]# mkdir datanode

在这里插入图片描述

hadoop_121">4. hadoop配置

[root@niit-master hadoop]# pwd
/usr/local/hadoop-2.9.2/etc/hadoop

在这里插入图片描述

  1. 配置 hadoop-env.sh 文件
[root@niit-master hadoop]# vi hadoop-env.sh

在这里插入图片描述

export JAVA_HOME={JAVA_HOME} 更改为
在这里插入图片描述

export JAVA_HOME=/usr/local/jdk1.8.0_231

在这里插入图片描述

  1. 配置 core-site.xml 文件
[root@niit-master hadoop]# vi core-site.xml

在这里插入图片描述

<configuration></configuration> 中间加入下面代码

<!-- 指定Hadoop运行时产生文件的存储目录 -->
<property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/hadoop/tmp</value>
</property>

<!-- 指定HDFS中NameNode的地址 -->
<property>
<name>fs.defaultFS</name>
    <value>hdfs://192.168.56.104:9000</value>
</property>

在这里插入图片描述

  1. 配置 hdfs-site.xml 文件
[root@niit-master hadoop]# vi hdfs-site.xml

在这里插入图片描述

<configuration></configuration> 中间加入下面代码

<!-- 指定HDFS副本的数量 -->
<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

<property>
  <name>dfs.namenode.name.dir</name>
  <value>/opt/hadoop/namenode</value>
  <description>指定namenode文件夹位置位置 </description>
</property>

<property>
  <name>dfs.datanode.data.dir</name>
  <value>/opt/hadoop/datanode</value>
  <description>datanode文件夹位置位置</description>
</property>

在这里插入图片描述

  1. 配置 mapred-site.xml 文件
    没有 mapred-site.xml 文件,需要 mapred-site.xml.template 重命名为 mapred-site.xml
[root@niit-master hadoop]# mv mapred-site.xml.template mapred-site.xml

在这里插入图片描述

[root@niit-master hadoop]# vi mapred-site.xml

在这里插入图片描述

<configuration></configuration> 中间加入下面代码

<property>
        <name>maperduce.framework.name</name>
        <value>yarn</value>
</property>

在这里插入图片描述

  1. 配置 yarn-site.xml 文件
[root@niit-master hadoop]# vi yarn-site.xml

在这里插入图片描述

<configuration></configuration> 中间加入下面代码

<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>

在这里插入图片描述

hadoop_234">5. 启动hadoop

  1. 初始化 hadoop
[root@niit-master hadoop]# hdfs namenode -format

在这里插入图片描述
出现 successfully 说明初始化 hadoop 成功
在这里插入图片描述

  1. 查看进程
[root@niit-master hadoop]# jps

在这里插入图片描述

  1. 启动 hadoop
[root@niit-master hadoop]# start-all.sh

在这里插入图片描述
对于出现的询问,全部输入 yes 和密码即可在这里插入图片描述

  1. 再次查看进程
[root@niit-master hadoop]# jps

在这里插入图片描述

  1. 查看网址
    在网页上输入:192.168.56.104:50070 查看是否可以打开网页

在这里插入图片描述


http://www.niftyadmin.cn/n/1680271.html

相关文章

python ssh模块设置超时_python paramiko模块中设置执行命令超时值

经常使用paramiko工具对几百台设备进行管理&#xff0c;但是由于服务器本身或是网络原因&#xff0c;有时返回值回不来&#xff0c;然后程序就看在那里一直等待&#xff0c;这个时候后需要设置一个超时值。paramiko模块中执行命令代码如下&#xff1a;stdin, stdout , stderr …

帮你写英文简历之实用语句 (转载)

帮你写英文简历之实用语句 一、说明应聘职位 (Stating Your Job Objective )1、A responsible administrative position which will provide challenge and freedom where I can bring my initiative and creativity into Full play. 负责管理的职位&#xff0c;该职位将提供挑…

MySql 数据库【数据库概述及数据准备】

MySql 数据库【数据库概述及数据准备】1. 数据库相关的概念1. 什么是数据库&#xff1f;2. 什么是数据库管理系统&#xff1f;3. 什么是SQL&#xff1f;4. 它们之间有什么关系&#xff1f;2. 登录MySql3. MySql常用命令4. 表的理解1. 什么是表&#xff1f;2. 为什么用表来存储数…

dnf时装预览怎么打开_dnf手游的两种玩法,氪金以天空为主,平民就反过来

游戏中我们是朋友&#xff0c;聊天侃地&#xff0c;在这里我们可以无拘无束的发言&#xff0c;不会有任何人阻挠&#xff0c;还有大家最喜欢吐槽的小编&#xff0c;请把口水收集好&#xff0c;随时准备和小编一起吐槽&#xff01;dnf手游的两种玩法&#xff0c;氪金以天空为主&…

几个DHTML示例

1.菜单http://dhtml-menu.com/dhtml-samples/testlink.html 2.拖放 http://www.brainjar.com/dhtml/drag/demo.html

python继承方式是基于原型吗_Python基础-继承与派生

一、继承继承是一种创建新的类的方式&#xff0c;在python中&#xff0c;新建的类可以继承自一个或者多个父类&#xff0c;原始类称为基类或超类&#xff0c;新建的类称为派生类或子类。python中类的继承分为&#xff1a;单继承和多继承class ParentClass1: #定义父类passclass…

MySql 数据库【查询、排序】

MySql 数据库【查询、排序】1. 简单查询1. 查询一个字段2. 查询两个及以上字段3. 查询所有字段4. 给查询的列起别名5. 查询的字段可以使用数学表达式2. 条件查询1. 普通条件查询2. 模糊查询3. 排序1. 单字段排序2. 多字段排序1. 简单查询 1. 查询一个字段 select 字段名 from…

[OpenJudge]带有通配符的字符串匹配

2019独角兽企业重金招聘Python工程师标准>>> #include <iostream> #include <stdlib.h> #include <string.h> using namespace std; /* 字符串匹配 ?代表一个字符&#xff08;不能没有&#xff09;&#xff0c;*可以代表任意多个字符&#xff08…