《从零开始学Hadoop大数据分析(视频教学版)》 —3.2.8 Block的副本放置策略

举报
华章计算机 发表于 2019/12/14 23:01:22 2019/12/14
【摘要】 本节书摘来自华章计算机《从零开始学Hadoop大数据分析(视频教学版)》 一书中第3章,第3.2.8节,作者是温春水 毕洁馨 。

3.2.8  Block的副本放置策略

  HDFS中的文件作为独立的存储单元,被划分为块(block)大小的多个分块(chunk),在Hadoop 2.x中默认值为128MB。当HDFS中存储小于一个块大小的文件时不会占据整个块的空间,也就是说,1MB的文件存储时只占用1MB的空间而不是128MB。HDFS的容错性也要求数据自动保存多个副本,副本的放置策略如图3.7所示。

 image.png

图3.7  副本的放置策略图示

* 第1个副本:放置在上传文件的DN;如果是集群外提交,则随机挑选一台磁盘不太满、CPU不太忙的节点。

* 第2个副本:放置在与第1个副本不同机架的节点上。

* 第3个副本:放置在与第2个副本相同机架的节点上。

* 更多副本:随机节点。


【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。