HDFS组件(NN/DN/SNN)

2019-02-24 00:20 

在这里插入图片描述

NN: (NameNode)文件系统的命名空间
a.文件名称
b.文件目录结构
c.文件属性(创建时间 权限 副本数)
d.文件对应哪些数据块—》数据块对应分布到哪些datanode节点上
blockmap,namenode节点不会持久化存储这种映射关系,集群在启动时和运行时,
datanode定期发送blockreport 给namenode,以此namenode在内存中动态维护这种映射关系!

作用:
管理文件系统的命名空间,
维护文件系统树,以两种文件永久保存在磁盘。
命名空间镜像文件fsimage
编辑日志editlog

在这里插入图片描述

在这里插入图片描述

DN:(DataNode) 存储数据块和块的校验和
与NN通信: netty
a.每隔3秒发送一个心跳包(告诉NN,DN还活着)
b.每10次心跳发送一个blockReport(块报告)

主要作用: 文件数据块的读写

SNN:(SecondaryNameNode) secondary 第二
存储: fsimage + editlog
作用: 定期合并fsimage+editlog文件为新的fsimage,推送给NN,称为检查点,checkpoint
参数:
dfs.namenode.checkpoint.period: 3600

fsimage: 镜像文件 文件系统树 全量 14:00
editlog:操作日志 读写的操作记录 增量 14:40-14:30

15:00 14:00fsimage + 14:00~15:00editlog 合并成一个新的image
15:00 fsimage

在这里插入图片描述

发表评论

您必须 登录 才能发表留言!