华为云MRS Spark基于华为云对象存储服务(OBS)的Hadoop文件系统快速删除指南

举报
yugogo 发表于 2021/10/23 00:28:33 2021/10/23
【摘要】 • 配置快速删除在Spark客户端的core-site.xml 配置文件中/opt/Bigdata/client/Spark2x/spark/conf/core-site.xml添加下列属性:fs.obs.trash.enable为true;fs.obs.trash.dir 为”.obs-Posix-FastDelete/”。注:此目录可根据客户需求,命名。例如:<property>    ...

配置快速删除

Spark客户端core-site.xml 配置文件中/opt/Bigdata/client/Spark2x/spark/conf/core-site.xml

添加下列属性

fs.obs.trash.enabletrue

fs.obs.trash.dir .obs-Posix-FastDelete/注:此目录可根据客户需求,命名。

例如

<property>

    <name>fs.obs.trash.enable</name>

    <value>true</value>

</property>

<property>

    <name>fs.obs.trash.dir</name>

    <value>.obs-Posix-FastDelete/</value>

</property>


配置快速删除目录的LifeCycle

基于并行文件系统生命周期Lifecycle管理机制自动定期删除指定的目录

华为云的OBS 并行文件系统支持资源的生命周期管理(详见https://support.huaweicloud.com/usermanual-obs/zh-cn_topic_0045829074.html

实际操作示例如下所示:

1. 客户登录华为云OBSWeb控制台,点击目标的OBS并行文件系统

2. 在对象存储服务的概览页面中,点击“生命周期规则”进入配置页面

3. 配置生命周期规则,示例如下图

a) “策略”配置:一定要选择“按前缀配置”来指定目标的目录,否则整个并行文件系统中的内容都会被清除

b) “前缀”配置:如前文所述,.obs-Posix-FastDelete/

c) “天数”配置配置垃圾过期的时间以“天”为单位,不能为0,这就意味着,最少也是在一天以后,这个目录下的内容才会被清空建议小于7天。

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。