hadoop理论基础(一)

news/2024/5/20 3:40:01 标签: hadoop, 大数据, hdfs

1.hadoop的组成

2 HDFS概述

HDFS(Hadoop Distributed File System)是一个分布式文件系统

(1)NameNode:存储文件的元数据;如文件名、文件目录结构、文件属性,以及每个文件的块列表和块所在的DataNode等。

(2)DataNode:在本地文件系统存储文件块数据

(3)每隔一段时间对NameNode元数据备份。

3Yarn概述

YARN(Yet Another Resource Negotiater):另一种资源协调者,是Hadoop的资源管理器。

ResourceManager(RM):整个集群资源(内存、CPU等)的管理者

NodeManager(NM):单个节点服务器资源管理者

ApplicationMaster(AM):单个任务运行的管理者

Container:容器,相当于一台独立的服务器,里面封装了任务运行所需要的资源,如内存、CPU、磁盘、网络等

4 MapReduce概述

负责海量数据的计算

MapReduce将计算拆成两个阶段:Map和Reduce

  • Map阶段并行处理输入数据

  • Reduce阶段对Map结果进行汇总

5 HDFS、YARN、MapReduce三者关系

6 大数据技术的生态体系


http://www.niftyadmin.cn/n/154101.html

相关文章

java基础:java中的static关键字解析

1.static代表着什么 在Java中并不存在全局变量的概念,但是我们可以通过static来实现一个“伪全局”的概念,在Java中static表示“全局”或者“静态”的意思,用来修饰成员变量和成员方法,当然也可以修饰代码块。 Java把内存分为栈内…

visual chatgpt:talking,drawing and editing with visual foundation models

微软-多模态ChatGPT来了:Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Models - 知乎摘要ChatGPT吸引了各个领域的兴趣,因其提供了一个跨领域的具有卓越会话能力和推理能力的语言界面。然而,由于ChatGPT是一个语言模…

高通与HIFI音频-PCBA

一.HIFI-PCBA总概述 RISCV-DSP芯片高通QCC3x/5x系列蓝牙,配套蓝牙协议APTX,APTX-HD,APTX-LL,APTX-AD,LDAC,LHDC;外设功能支持U盘,SPDIF,K歌宝,SD卡&#xff0…

微机原理 || MOV 指令使用规则(详细+例题)

MOV 目标, 源 DST目标操作数:通用寄存器、段寄存器、存储单元、立即数 SRC源操作数:通用寄存器、段寄存器、存储单元 MOV指令使用规则:(1) 目标操作数无立即方式 例如,MOV 03H,AL; 为错误指令(2)数据传送应注意数据…

计算机网络笔记——传输层

传输层 从通信和信息处理的角度看,传输层是 5 层参考模型中的第 4 层,它向上面的应用层提供通信服务。它属于面向通信部分的最高层,同时也是用户功能中的最低层。 5.1 传输层提供的服务 5.1.1 传输层的功能 传输层为两台主机提供了应用进程…

Input系统之InputReader

InputReader的执行流程图 1宏观分析InputReader InputReaderThread的启动 status_t InputManager::start() {status_t result mDispatcherThread->run("InputDispatcher", PRIORITY_URGENT_DISPLAY);//...result mReaderThread->run("InputReader&quo…

maven私服搭建与使用

概述 在使用maven进行Java项目的开发过程中,难免会有些公共的私有库,这些库是不太方便放到中央仓库的,可以通过Nexus搭建一个私有仓库。 Nexus部署 下载安装包 通过下载安装包nexus-3.47.1-01-unix.tar.gz。 安装 解压安装包 Nexus安装…

【linux】进程信号——信号的保存和处理

文章目录一、阻塞信号1.1 信号的相关概念1.2 在内核中的构成二、捕捉信号概念2.1 内核态和用户态2.2 信号捕捉流程图三、信号操作3.1 sigset_t信号集3.2 信号集操作函数3.2.1 更改block表sigprocmask3.2.2 获取pending信号集sigpending3.3 验证四、捕捉信号操作4.1 内核捕捉信号…