hadoop的运行模式

news/2024/5/20 4:29:13 标签: hadoop, 大数据, hdfs

作者简介:大家好我是小唐同学(๑>؂<๑),好久不见,为梦想而努力的小唐又回来了,让我们一起加油!!!

个人主页:小唐同学(๑>؂<๑)的博客主页

目前再学习大数据,现在在初级阶段-刚学Hadoop,若有错误,请指正

目录

hadoop%E7%9A%84%E4%B8%89%E7%A7%8D%E8%BF%90%E8%A1%8C%E6%A8%A1%E5%BC%8F%E5%8C%BA%E5%88%AB%EF%BC%9A-toc" style="margin-left:0px;">hadoop的三种运行模式区别:

完全分布式运行模式步骤:

一,虚拟机准备:

二,编写集群分发脚本xsync

        (1)scp定义:

        (2)基础语法:

(1)按照上述语法进行拷贝jdk

(2)按照上述语法拷贝Hadoop(第二种方法)

(3)拷贝也可以让Hadoop103操作  从Hadoop102中拷贝入Hadoop104

 三,rsync远程同步工具

rsync语法:

ssh免密登录:

免密登录原理:

ssh免密登录实操:


hadoop%E7%9A%84%E4%B8%89%E7%A7%8D%E8%BF%90%E8%A1%8C%E6%A8%A1%E5%BC%8F%E5%8C%BA%E5%88%AB%EF%BC%9A">hadoop的三种运行模式区别:

完全分布式运行模式步骤:

1.准备三台客户机(关闭防火墙,静态IP,主机名)

2.安装jdk

3.配置环境变量

4.安装Hadoop

5.配置环境变量

6.配置集群

7.单点启动

8.配置ssh

9.群起并测试集群

一,虚拟机准备:

详见上章

二,编写集群分发脚本xsync

        (1)scp定义:

scp可以实现服务器与服务器之间的数据拷贝

        (2)基础语法:

scp      -r        $pdir/$fname                                 $user@$host:$pdir/$fname

命令    递归       要拷贝的文件路径/名称              目的地用户@主机:目的地路径/名称

实例演示(Hadoop100,Hadoop102,Hadoop103,Hadoop104已 经准备完全)

将jdk从Hadoop102上 拷贝到Hadoop103,Hadoop104上

将Hadoop从Hadoop102上拷贝到Hadoop103,Hadoop104上

拷贝有两种方法:

(1)把本服务器文件拷贝入其他服务器

(2)把其他服务器文件拷贝入本服务器

(1)按照上述语法进行拷贝jdk

(这是上述的第一种拷贝)

首次拷贝需要验证

 需要通过Xshell登录到Hadoop103    所以需要输入密码

 拷贝jar包

 进入Hadoop103   可以进入指定目录查看

(2)按照上述语法拷贝Hadoop(第二种方法)

在Hadoop103中操作,从Hadoop102中拷贝Hadoop

scp -r tangxiaocong@hadoop102:/opt/module/hadoop-3.1.3 ./

 这种操作可以让本机路径简化

以上两种操作,就使Hadoop,jdk从Hadoop102拷贝入Hadoop103

(3)拷贝也可以让Hadoop103操作  从Hadoop102中拷贝入Hadoop104

(听上去很无赖,很像小美)

scp -r tangxiaocong@hadoop102:/opt/module/* tangxiaocong@hadoop104:/opt/module/e/* tangxiaocon

在这里需要输入两次密码

 三,rsync远程同步工具

rsync主要用于备份和镜像,具有速度快,避免复制相同内容和支持符号链接的优点

 rsync和scp的区别:

        用rsync做文件的复制要比scp的速度快,rsync只对差异文件进行操作

        scp是把所有文件都进行复制

rsync语法:

 rsync   -av   $pdir/$fname                                 $user@$host:$pdir/$fname

命令    递归       要拷贝的文件路径/名称              目的地用户@主机:目的地路径/名称

xsync集群分发脚本

需求:

        循环复制文件到所有节点的相同目录下

需求分析:

        (a)rsync命令原始拷贝

rsync -av /opt/module tangxiaocong@hadoop103:/opt/

        (b)期望脚本

xsync要同步的文件名称

        (c)期望脚本在任何路径下都能使用(脚本在全局环境变量的路径)

ssh免密登录:

        ssh:是一种网络协议,用于计算机之间的加密登录

免密登录原理:

ssh免密登录实操:

现在是Hadoop102ssh远程登录Hadoop103

现在是有密登录

可以显示,已经在Hadoop102上有密登录

先来到自己家目录下

ls -al是查看所有隐藏文件

执行过ssh命令,所以会在家目录中有ssh的隐藏文件

设置ssh

免密登录

执行命令

  ssh-keygen -t rsa

rsa 是密钥对的一种算法(免密登录是通过密钥队进行联系---私钥和公钥) 

 没有执行命令之前

执行命令时

执行命令后会生成密钥队

 设置免密登录的服务器,需要将公钥进行拷贝(私钥不用拷贝)

ssh-copy-id命令可以把本地的ssh公钥文件安装到远程主机对应的账户下

实现免密登录

Hadoop在Xshell下访问自己也是要输入密码的:

所以还需要在给自己copy一份

可知copy后再ssh就不需要输入密码实现免密登录

当然这是普通用户的登录,如果切换到root用户下需要重新配置


http://www.niftyadmin.cn/n/113977.html

相关文章

关于如何合理设置线程池参数解决方案

关于如何合理设置线程池参数解决方案&#xff08;ThreadPoolExecutor&#xff09; 线程池参数有哪些 我们直接来看构造方法 ... public ThreadPoolExecutor(int var1, int var2, long var3, TimeUnit var5, BlockingQueue<Runnable> var6,ThreadFactory var7, Rejecte…

定时执行专家 - 显示方式选项说明

▼2023-02-27 V6.7 - 更新日志▼ - 新增 【任务标签】功能&#xff0c;可以对任务进行自定义分组 - 新增 【自动截屏】可选“创建子目录”功能 - 新增 显示方式功能&#xff0c;用于【打开网址、打开文件夹、打开文件、执行脚本或程序、执行DOS命令】任务 - 新增 支持指定命令…

[创业之路-57] :商业计划书BP如何书写?总体框架!

引言&#xff1a;BP (Buiness Plan) &#xff0c;即商业计划书&#xff0c;本质上还是一份计划&#xff0c;是一份商业计划&#xff0c;即一种关于如何赚钱的计划&#xff0c;是一份通过组建公司&#xff0c;运营项目&#xff0c;进而赚钱的项目计划。什么是商业&#xff1f;商…

深入理解this指向问题

this指向 在运行时绑定&#xff0c;所以this和函数的调用方式和调用的位置有关&#xff0c;和定义的位置没关系 绑定规则 默认绑定&#xff08;非严格模式下this指向全局变量&#xff0c;在严格模式下函数内的this指向undefined&#xff09; 独立函数调用&#xff0c;没有主题 …

Vland:像乐高一样搭建元宇宙|开发者说

社交达人金秋远每年会组织和参加数以百计的活动——既有线下也有线上&#xff0c;既有德州扑克也有创业交流&#xff0c;既有客户回访也有校友叙旧。 活跃于各种社交活动&#xff0c;是金秋远在贝恩咨询为 500 强企业担任战略顾问时养成的习惯。由于喜欢研究「人与人的连接」&…

数据结构: 最小栈

最小栈的特色是保持栈后进先出的特性&#xff0c;同时能够以O(1)复杂度获得当前栈的最小值。 栈是比较好实现的&#xff0c;直接搞个链表&#xff0c;从头部删除和添加即可。 最小栈的核心逻辑是&#xff1a; 因为栈是后进先出的&#xff0c;因此栈顶元素之下的数字永远在栈…

玩好 StarRocks,大厂 offer 接不完!|字节跳动、小红书、京东物流、唯品会、腾讯音乐要的就是你!

求职黄金季即将到来&#xff0c;你准备好迎接你的 dream offer 了吗&#xff1f;StarRocks 自创立以来&#xff0c;一直主张为用户创造极速统一的数据分析新范式&#xff0c;让数据驱动创新&#xff0c;而优秀的大数据人才对推动创新有着至关重要的作用。因此&#xff0c;我们推…

PayPal轮询系统解放你的生产力助力起航

现在很多跨境商家手里都有很多PayPal账号&#xff0c;本来多个PayPal账号就是为了防止一个账号出现问题&#xff0c;导致工作没办法继续下去。但是手动切换让很多盯站的商家觉得很麻烦。而且多账号之间本可以相互配合&#xff0c;让彼此的安全系数越来越高&#xff0c;风控越来…