HDFS系列(3) | HDFS的Shell常用命令大全

举报
不温卜火 发表于 2020/12/02 23:03:27 2020/12/02
【摘要】 此次更新的的博文是关于HDFS的shell的常用命令,希望大家能够喜欢 目录 一. 基本语法二. 命令大全三. 常用命令实操1. 常用命令及其作用对比表2. 常用命令的实际操作 一. 基本语法 bin/hadoop fs 具体命令 or bin/hdfs dfs 具体命令 都是可以的。 二. 命令大全 在虚拟机内输入:bin/hd...

此次更新的的博文是关于HDFS的shell的常用命令,希望大家能够喜欢


一. 基本语法

bin/hadoop fs 具体命令 or bin/hdfs dfs 具体命令 都是可以的。

二. 命令大全

在虚拟机内输入:bin/hdfs dfs

[root@hadoop001 hadoop-2.7.2]# bin/hdfs dfs


  
 
  • 1
  • 2

下面为显示的内容:

Usage: hadoop fs [generic options]
	[-appendToFile <localsrc> ... <dst>]
	[-cat [-ignoreCrc] <src> ...]
	[-checksum <src> ...]
	[-chgrp [-R] GROUP PATH...]
	[-chmod [-R] <MODE[,MODE]... | OCTALMODE> PATH...]
	[-chown [-R] [OWNER][:[GROUP]] PATH...]
	[-copyFromLocal [-f] [-p] [-l] <localsrc> ... <dst>]
	[-copyToLocal [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
	[-count [-q] [-h] <path> ...]
	[-cp [-f] [-p | -p[topax]] <src> ... <dst>]
	[-createSnapshot <snapshotDir> [<snapshotName>]]
	[-deleteSnapshot <snapshotDir> <snapshotName>]
	[-df [-h] [<path> ...]]
	[-du [-s] [-h] <path> ...]
	[-expunge]
	[-find <path> ... <expression> ...]
	[-get [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
	[-getfacl [-R] <path>]
	[-getfattr [-R] {-n name | -d} [-e en] <path>]
	[-getmerge [-nl] <src> <localdst>]
	[-help [cmd ...]]
	[-ls [-d] [-h] [-R] [<path> ...]]
	[-mkdir [-p] <path> ...]
	[-moveFromLocal <localsrc> ... <dst>]
	[-moveToLocal <src> <localdst>]
	[-mv <src> ... <dst>]
	[-put [-f] [-p] [-l] <localsrc> ... <dst>]
	[-renameSnapshot <snapshotDir> <oldName> <newName>]
	[-rm [-f] [-r|-R] [-skipTrash] <src> ...]
	[-rmdir [--ignore-fail-on-non-empty] <dir> ...]
	[-setfacl [-R] [{-b|-k} {-m|-x <acl_spec>} <path>]|[--set <acl_spec> <path>]]
	[-setfattr {-n name [-v value] | -x name} <path>]
	[-setrep [-R] [-w] <rep> <path> ...]
	[-stat [format] <path> ...]
	[-tail [-f] <file>]
	[-test -[defsz] <path>]
	[-text [-ignoreCrc] <src> ...]
	[-touchz <path> ...]
	[-truncate [-w] <length> <path> ...]
	[-usage [cmd ...]]

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41

三. 常用命令实操

1. 常用命令及其作用对比表

序号 命令 作用
1 -help 输出这个命令参数
2 -ls 显示目录信息
3 -mkdir 在HDFS上创建目录
4 -moveFromLocal 从本地剪切粘贴到HDFS
5 -appendToFile 追加一个文件到已经存在的文件末尾
6 -cat 显示文件内容
7 -chgrp 、-chmod、-chown Linux文件系统中的用法一样,修改文件所属权限
8 -copyFromLocal 从本地文件系统中拷贝文件到HDFS路径去
9 -copyToLocal 从HDFS拷贝到本地
10 -cp 从HDFS的一个路径拷贝到HDFS的另一个路径
11 -mv 在HDFS目录中移动文件
12 -get 等同于copyToLocal,就是从HDFS下载文件到本地
13 -getmerge 合并下载多个文件
14 -put 等同于copyFromLocal
15 -tail 显示一个文件的末尾
16 -rm 删除文件或文件夹
17 -rmdir 删除空目录
18 -du 统计文件夹的大小信息
19 -setrep 设置HDFS中文件的副本数量
20 - expunge 清空HDFS垃圾桶

2. 常用命令的实际操作

  • 1. -help:输出这个命令参数
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -help rm

  
 
  • 1
  • 2.-ls: 显示目录信息
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -ls /

  
 
  • 1
  • 3. -mkdir:在HDFS上创建目录
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -mkdir -p /sanguo/shuguo

  
 
  • 1
  • 4.-moveFromLocal:从本地剪切粘贴到HDFS
[bigdata@hadoop001 hadoop-2.7.2]$ touch kongming.txt

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs  -moveFromLocal  ./kongming.txt  /sanguo/shuguo

  
 
  • 1
  • 2
  • 3
  • 5.-appendToFile:追加一个文件到已经存在的文件末尾
[bigdata@hadoop001 hadoop-2.7.2]$ vim liubei.txt
输入
bu wen bu huo
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -appendToFile liubei.txt /sanguo/shuguo/kongming.txt

  
 
  • 1
  • 2
  • 3
  • 4
  • 6.-cat:显示文件内容
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -cat /sanguo/shuguo/kongming.txt

  
 
  • 1
  • 7. -chgrp 、-chmod、-chown:Linux文件系统中的用法一样,修改文件所属权限
hadoop fs  -chmod  666  /sanguo/shuguo/kongming.txt

hadoop fs  -chown  bigdata:bigdata   /sanguo/shuguo/kongming.txt

  
 
  • 1
  • 2
  • 3
  • 8. -copyFromLocal:从本地文件系统中拷贝文件到HDFS路径去
hadoop fs -copyFromLocal README.txt /

  
 
  • 1
  • 9.-copyToLocal:从HDFS拷贝到本地
hadoop fs -copyToLocal /sanguo/shuguo/kongming.txt ./

  
 
  • 1
  • 10. -cp :从HDFS的一个路径拷贝到HDFS的另一个路径
hadoop fs -cp /sanguo/shuguo/kongming.txt /zhuge.txt

  
 
  • 1
  • 11.-mv:在HDFS目录中移动文件
hadoop fs -mv /zhuge.txt /sanguo/shuguo/

  
 
  • 1
  • 12.-get:等同于copyToLocal,就是从HDFS下载文件到本地
hadoop fs -get /sanguo/shuguo/kongming.txt ./

  
 
  • 1
  • 13.-getmerge:合并下载多个文件,比如HDFS的目录 /user/bigdata/test下有多个文件:log.1, log.2,log.3,.
hadoop fs -getmerge /user/bigdata/test/*  ./zaiyiqi.txt

  
 
  • 1
  • 14. -put:等同于copyFromLocal
hadoop fs -put ./zaiyiqi.txt /user/bigdata/test/

  
 
  • 1
  • 15. -tail:显示一个文件的末尾
hadoop fs -tail /sanguo/shuguo/kongming.txt

  
 
  • 1
  • 16.-rm:删除文件或文件夹
hadoop fs -rm /user/bigdata/test/jinlian2.txt

  
 
  • 1
  • 17. -rmdir:删除空目录
hadoop fs -mkdir /test

hadoop fs -rmdir /test

  
 
  • 1
  • 2
  • 3
  • 18. -du 统计文件夹的大小信息
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -du -s -h /user/bigdata/test
2.7 K  /user/atguigu/test

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -du  -h /user/bigdata/test
1.3 K  /user/bigdata/test/README.txt
15 /user/bigdata/test/jinlian.txt
1.4 K  /user/bigdata/test/zaiyiqi.txt


  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 19. -setrep:设置HDFS中文件的副本数量
hadoop fs -setrep 10 /sanguo/shuguo/kongming.txt

  
 
  • 1

这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。

  • 20. - expunge :清空hdfs垃圾桶
hdfs dfs  -expunge

  
 
  • 1

本次HDFS的常用shell命令使用就分享到这里了,后续博主还会为大家带来HDFS的其他相关知识点。小伙伴们记得持续关注博主呀!!!

文章来源: buwenbuhuo.blog.csdn.net,作者:不温卜火,版权归原作者所有,如需转载,请联系作者。

原文链接:buwenbuhuo.blog.csdn.net/article/details/105670846

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。