当前位置: 首页 > article >正文

HDFS常用命令

常用命令说明:

  1. -put-get

    • 上传和下载文件,是 HDFS 和本地文件系统交互的关键命令。
  2. -rm-mkdir

    • 删除和创建文件/目录,-rm 支持递归删除。
  3. -ls-cat

    • 文件查看操作中最常用的命令,分别用于列出文件和查看内容。
  4. 权限管理

    • 通过 -chmod-chown-chgrp 命令对 HDFS 文件的权限、所有者和所属组进行管理。
  5. 检查文件状态

    • 通过 -stat-checksum 命令,可以查看文件的元数据和校验和信息。
  6. 磁盘使用情况

    • -du 是用来分析磁盘使用情况的重要命令,特别是在分布式系统中。

以下是整理后的 HDFS(Hadoop Distributed File System) 常用命令表格,涵盖文件操作、目录操作、权限管理等:

操作类别命令说明示例
显示文件/目录hdfs dfs -ls /path列出指定目录下的文件和子目录hdfs dfs -ls /user/hadoop
hdfs dfs -ls -R /path递归列出目录下的所有文件和子目录hdfs dfs -ls -R /user/hadoop
上传文件hdfs dfs -put local_path hdfs_path从本地文件系统上传文件到 HDFShdfs dfs -put file.txt /user/hadoop
下载文件hdfs dfs -get hdfs_path local_path从 HDFS 下载文件到本地系统hdfs dfs -get /user/hadoop/file.txt ./
删除文件/目录hdfs dfs -rm /path/file删除 HDFS 中指定文件hdfs dfs -rm /user/hadoop/file.txt
hdfs dfs -rm -r /path删除 HDFS 中的目录及其所有内容hdfs dfs -rm -r /user/hadoop
查看文件内容hdfs dfs -cat /path/file查看文件内容hdfs dfs -cat /user/hadoop/file.txt
hdfs dfs -tail /path/file查看文件的最后部分内容hdfs dfs -tail /user/hadoop/file.txt
hdfs dfs -text /path/file查看文件的内容(如果是文本文件)hdfs dfs -text /user/hadoop/file.txt
复制文件/目录hdfs dfs -cp /source_path /dest_path复制 HDFS 文件或目录hdfs dfs -cp /user/source/file.txt /user/dest/
移动文件/目录hdfs dfs -mv /source_path /dest_path移动或重命名 HDFS 文件或目录hdfs dfs -mv /user/source/file.txt /user/dest/
检查文件状态hdfs dfs -stat /path/file查看文件的状态信息(如文件大小、修改时间等)hdfs dfs -stat /user/hadoop/file.txt
创建目录hdfs dfs -mkdir /path在 HDFS 中创建新目录hdfs dfs -mkdir /user/hadoop/new_dir
hdfs dfs -mkdir -p /path/subpath递归创建目录hdfs dfs -mkdir -p /user/hadoop/dir/subdir
检查文件副本hdfs dfs -setrep -w replication /path设置文件或目录的副本因子(replication)并等待完成hdfs dfs -setrep -w 3 /user/hadoop/file.txt
查看磁盘使用情况hdfs dfs -du -s /path查看目录的磁盘使用情况(总计)hdfs dfs -du -s /user/hadoop
hdfs dfs -du -h /path以人类可读的形式显示目录的磁盘使用情况hdfs dfs -du -h /user/hadoop
文件权限管理hdfs dfs -chmod mode /path修改文件或目录权限,mode 是八进制权限码hdfs dfs -chmod 755 /user/hadoop/file.txt
hdfs dfs -chown user:group /path更改文件或目录的所有者和所属组hdfs dfs -chown hadoop:group1 /user/hadoop/file.txt
hdfs dfs -chgrp group /path更改文件或目录的所属组hdfs dfs -chgrp group1 /user/hadoop/file.txt
查看文件检查点hdfs dfs -checksum /path/file查看文件的 HDFS 校验和hdfs dfs -checksum /user/hadoop/file.txt
测试路径hdfs dfs -test -e /path测试路径是否存在,返回退出码,存在返回 0,否则返回非 0hdfs dfs -test -e /user/hadoop/file.txt
hdfs dfs -test -d /path测试路径是否为目录hdfs dfs -test -d /user/hadoop/dir
hdfs dfs -test -f /path测试路径是否为文件hdfs dfs -test -f /user/hadoop/file.txt

http://www.kler.cn/a/442522.html

相关文章:

  • Android 高德地图API(新版)
  • 【Linux】常见指令(一)
  • Sprint Boot教程之五十八:动态启动/停止 Kafka 监听器
  • 【Rust自学】12.2. 读取文件
  • 1Hive概览
  • 基于springboot果蔬供应链信息管理平台
  • IIS服务器部署C# WebApi程序,客户端PUT,DELETE请求无法执行
  • vue3 + ts + element-plus 表格中的input按回车聚焦到下一行
  • 电商大数据的几种获取渠道分享!
  • 数据可视化-4. 漏斗图
  • 国内主流数据库介绍及技术分享
  • vue iframe进行父子页面通信并切换URL
  • 基于Streamlit和OpenAI大模型的Chatbot App支持图片的多模态输入
  • 使用 Copilot 增强创造力:Mighty Media 的卓越数字化之旅
  • 【论文复刻】2021-2012年环境规制影响企业融资约束吗—基于新《环保法》的准自然实验(C刊《证券市场导报》)
  • RPA 在促销活动自动化处理中的创新应用
  • CSS3:重塑网页设计的新力量
  • YOLO目标检测算法
  • 【DevOps工具篇】Gitlab Runner设置(使用Docker in docker作为Runner)
  • LAPACK 程序 SSYEVD 的计算特征值的应用实例 C/Fortran
  • 数据结构 ——哈希表
  • React工具和库面试题目(二)
  • 2024.12.15 TCP/IP 网络模型有哪几层?(二)
  • C++ 的衰退复制(decay-copy)
  • 画一颗随机数
  • Firefox 基本设置备忘