《从零开始学Hadoop大数据分析(视频教学版)》 —3.2.8 Block的副本放置策略
【摘要】 本节书摘来自华章计算机《从零开始学Hadoop大数据分析(视频教学版)》 一书中第3章,第3.2.8节,作者是温春水 毕洁馨 。
3.2.8 Block的副本放置策略
HDFS中的文件作为独立的存储单元,被划分为块(block)大小的多个分块(chunk),在Hadoop 2.x中默认值为128MB。当HDFS中存储小于一个块大小的文件时不会占据整个块的空间,也就是说,1MB的文件存储时只占用1MB的空间而不是128MB。HDFS的容错性也要求数据自动保存多个副本,副本的放置策略如图3.7所示。
图3.7 副本的放置策略图示
* 第1个副本:放置在上传文件的DN;如果是集群外提交,则随机挑选一台磁盘不太满、CPU不太忙的节点。
* 第2个副本:放置在与第1个副本不同机架的节点上。
* 第3个副本:放置在与第2个副本相同机架的节点上。
* 更多副本:随机节点。
【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)