常用的HDFS操作

news/2024/5/20 2:58:10 标签: hdfs, hadoop, big data

首先启动Hadoop

start-all.sh

如果出现

Starting namenodes on [localhost]
localhost: hadoop@localhost: Permission denied (publickey,password).
Starting datanodes
localhost: hadoop@localhost: Permission denied (publickey,password).
Starting secondary namenodes [z-virtual-machine]
z-virtual-machine: hadoop@z-virtual-machine: Permission denied (publickey,password).

这里提供一种解决方法

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 0600 ~/.ssh/authorized_keys
start-dfs.sh

下面命令的前提:

先在HDFS中创建名为hadoop的用户目录

cd /usr/local/hadoop
./bin/hdfs dfs -mkdir -p /user/hadoop

然后在他下面创建一个input目录

./bin/hdfs dfs -mkdir input

(1)向HDFS 中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件

./bin/hdfs dfs -put /home/hadoop/zhang.txt input

(2)从HDFS中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名

./bin/hdfs dfs -get input/zhang.txt /home/hadoop/下载

(3)将HDFS中指定文件的内容输出到终端中

hadoop fs -cat /user/hadoop/input/zhang.txt

(4)显示 HDFS中指定的文件的读写权限、大小、创建时间、路径等信息

hdfs dfs -ls -h /user/hadoop/input/zhang.txt

(5)给定HDFS中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息,如果该文件是目录,则递归输出该目录下所有文件相关信息;

hdfs dfs -ls -R -h /user/hadoop/input

(6)提供一个HDFS内的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录

if $(hadoop dfs -test -d /user/hadoop/zjb);
then $(hadoop dfs -touch /user/hadoop/zjb/zhangjiabo.txt);
else $(hadoop dfs -mkdir -p /user/hadoop/zjb && hadoop dfs -touch
user/hadoop/zjb/zhangjiabo.txt);
fi

(7)提供一个 HDFS的目录的路径,对该目录进行创建和删除操作。创建目录时,如果目录文件所在目录不存在则自动创建相应目录;删除目录时,由用户指定当该目录不为空时是否还删除该目录

hdfs dfs -rm -r /user/hadoop/zjb

(8)向HDFS中指定的文件追加内容,由用户指定内容追加到原有文件的开头或结尾;(以结尾举例)

hdfs dfs -appendToFile /home/hadoop/appent.txt input/zhang.txt

(9)删除HDFS中指定的文件

hdfs dfs -rm input/myLocalFile.txt

(10)删除HDFS中指定的目录,由用户指定目录中如果存在文件时是否删除目录

hdfs dfs -rm -r new

(11)在 HDFS 中,将文件从源路径移动到目的路径

hdfs dfs -mv /user/hadoop/input/zhang.txt /user/hadoop/new/zhang.txt

http://www.niftyadmin.cn/n/928377.html

相关文章

使用Quasar设计Material和IOS风格的响应式网站

GITHUB:使用Quasar设计旅游网站文章链接:使用Quasar设计Material和IOS风格的响应式网站 Quasar Quasar是一款基于Vue.js开发的UI框架,可以让你轻松构建网站简洁明快的界面,更重要的是它还能让你轻松做好RWD(响应式网站…

S3C2410 ADS实验手册

http://www.evernote.com/shard/s307/sh/b45f0e60-3232-4cbb-99f6-a273236a2faa/bd865ae048ac797585303ef542626e23 转载于:https://www.cnblogs.com/james1207/p/3266626.html

SSH连接本地VMware搭建的Ubuntu

首先开启虚拟机 Linux 中一般会预装 openssh-client , 但是没有安装openssh-server 安装 ssh sudo apt install ssh查看ip 在先输入ipconfig想看ip时提示 于是选择安装net-tools sudo apt install net-tools然后参考上面的提示输入ifconfig,得到本地…

YYCache 源码学习(二):YYDiskCache

整体思路 从作者的《YYCache 设计思路》一文中可以看出,作者在设计YYDiskCache之前做了充分的测试:iPhone 6 64G 下,SQLite 写入性能比直接写文件要高,但读取性能取决于数据大小:当单条数据小于 20K 时,数据…

Articles on the Agenda

比赛暂时告一段落,接下来可能会花点时间把项目开发过程中的一些东西记录下来。因为这次开发在技术方面的线实在做得有点长了,有些问题虽然在开发文档中已经记录,但不细致总结一下,估计时间长了我自己都记不起来了。首先打算就线程…

Java教程_软件开发基础

软件开发 什么是软件?软件是一系列按照特定顺序组织的计算机数据和指令的集合。1、数据就是指现实生活中的年龄、姓名等信息。2、指令就是告诉计算机如何对数据进行处理。创一个小群,供大家学习交流聊天如果有对学JAVA方面有什么疑惑问题的,或者有什么想…

启动mysql提示发生系统错误 2。 系统找不到指定的文件。

我用的是免安装版,迁移了mysql的文件夹,然后启动系统就找不到mysql了 如果环境变量配置了mysql的话,直接输入命令mysqld remove把mysql卸载了,会提示卸载成功 然后再执行安装命令mysqld install,会提示安装成功 这时候…

day7、字符编码和文件处理

今日内容 字符编码 文件处理 一、字符编码 1、什么叫字符编码 人在操作计算机的时候输入的是人能看懂的字符,但计算机只能识别01010101。。。这样的二进制,那么将输入的字符转换成计算机认识的二进制的过程就是字符编码 2、字符编码表 每个字符都应该有…